“AI로 디지털 성범죄 확산 막는다”…음란물 판별에 0.01초

입력 2021.09.09 (21:49) 수정 2021.09.09 (22:16)

읽어주기 기능은 크롬기반의
브라우저에서만 사용하실 수 있습니다.

[앵커]

동영상 같은 디지털 성범죄물은 ​​온라인 상에서 완전히 지우기가 매우 어렵습니다.

퍼지는 속도가 무척 빠르기 때문인데, 앞으로는 인공지능 AI가 성범죄물 확산을 막는데 큰 역할을 할 것으로 기대됩니다.

정연우 기자가 보도합니다.

[리포트]

우리 사회를 충격에 빠뜨린 N번방 사건, 영상을 녹화해 돈을 뜯는 몸캠 피싱.

모두 영상을 퍼뜨리겠다며 피해자를 궁지로 몰았습니다.

지난해 여성인권진흥원의 디지털 성범죄 피해 지원만 17만 건.

영상 유포를 막아달라는 호소가 많았습니다.

하지만 신고가 접수돼도 인터넷 사이트를 일일이 확인해 영상을 지워야 하다 보니 확산 속도를 따라잡지 못합니다.

[이효린/한국사이버성폭력대응센터 사무국장 : "피해 당사자의 가장 간절한 요구는 지금 당장 모든 피해 촬영물이 모조리 다 삭제되는 거잖아요. 현실적으로 그렇게 가능하기가 매우 어렵고..."]

불법 촬영물과 관련된 단어를 입력하자, 유사한 영상들이 순식간에 검색됩니다.

사람 대신 인공지능 AI가 빠르고 정확하게 영상을 찾아내는 겁니다.

피해 신고된 영상의 '키워드'를 입력하면 AI가 사이트에 접속해 영상이 유포된 곳들을 찾아내고, 스스로 학습해 일반 영상과 성인 영상을 판별해 음란물 사이트 여부를 분류합니다.

음란물 판별에 걸린 시간은 0.01초, 정확도는 99%에 이릅니다.

[김종환/ETRI 미디어지능화연구실 책임연구원 : "운영자는 일일이 수백 수천 건의 사이트를 일일이 방문하지 않고도, 검색된 결과만을 딱 모아주면 그걸 분류해서 원하는 유포된 사이트를 바로바로 찾아서 (삭제)할 수 있기 때문에..."]

이 인공지능 검색 시스템은 이달 안에 디지털 성범죄피해자지원센터에서 시험 적용에 들어갑니다.

또 올해 말까지 단어 대신 피해 영상을 입력해 같은 영상과 유포된 사이트를 찾아내도록 개발할 계획입니다.

KBS 뉴스 정연우입니다.

촬영기자:오종훈/영상편집:김근환/그래픽:김지훈

■ 제보하기
▷ 카카오톡 : 'KBS제보' 검색, 채널 추가
▷ 전화 : 02-781-1234, 4444
▷ 이메일 : kbs1234@kbs.co.kr
▷ 유튜브, 네이버, 카카오에서도 KBS뉴스를 구독해주세요!


  • “AI로 디지털 성범죄 확산 막는다”…음란물 판별에 0.01초
    • 입력 2021-09-09 21:49:32
    • 수정2021-09-09 22:16:50
    뉴스 9
[앵커]

동영상 같은 디지털 성범죄물은 ​​온라인 상에서 완전히 지우기가 매우 어렵습니다.

퍼지는 속도가 무척 빠르기 때문인데, 앞으로는 인공지능 AI가 성범죄물 확산을 막는데 큰 역할을 할 것으로 기대됩니다.

정연우 기자가 보도합니다.

[리포트]

우리 사회를 충격에 빠뜨린 N번방 사건, 영상을 녹화해 돈을 뜯는 몸캠 피싱.

모두 영상을 퍼뜨리겠다며 피해자를 궁지로 몰았습니다.

지난해 여성인권진흥원의 디지털 성범죄 피해 지원만 17만 건.

영상 유포를 막아달라는 호소가 많았습니다.

하지만 신고가 접수돼도 인터넷 사이트를 일일이 확인해 영상을 지워야 하다 보니 확산 속도를 따라잡지 못합니다.

[이효린/한국사이버성폭력대응센터 사무국장 : "피해 당사자의 가장 간절한 요구는 지금 당장 모든 피해 촬영물이 모조리 다 삭제되는 거잖아요. 현실적으로 그렇게 가능하기가 매우 어렵고..."]

불법 촬영물과 관련된 단어를 입력하자, 유사한 영상들이 순식간에 검색됩니다.

사람 대신 인공지능 AI가 빠르고 정확하게 영상을 찾아내는 겁니다.

피해 신고된 영상의 '키워드'를 입력하면 AI가 사이트에 접속해 영상이 유포된 곳들을 찾아내고, 스스로 학습해 일반 영상과 성인 영상을 판별해 음란물 사이트 여부를 분류합니다.

음란물 판별에 걸린 시간은 0.01초, 정확도는 99%에 이릅니다.

[김종환/ETRI 미디어지능화연구실 책임연구원 : "운영자는 일일이 수백 수천 건의 사이트를 일일이 방문하지 않고도, 검색된 결과만을 딱 모아주면 그걸 분류해서 원하는 유포된 사이트를 바로바로 찾아서 (삭제)할 수 있기 때문에..."]

이 인공지능 검색 시스템은 이달 안에 디지털 성범죄피해자지원센터에서 시험 적용에 들어갑니다.

또 올해 말까지 단어 대신 피해 영상을 입력해 같은 영상과 유포된 사이트를 찾아내도록 개발할 계획입니다.

KBS 뉴스 정연우입니다.

촬영기자:오종훈/영상편집:김근환/그래픽:김지훈

이 기사가 좋으셨다면

오늘의 핫 클릭

실시간 뜨거운 관심을 받고 있는 뉴스

이 기사에 대한 의견을 남겨주세요.

수신료 수신료