서울시 “온라인 성범죄 영상, AI가 찾아내 6분 만에 ‘삭제 신고’까지”

서울시가 AI, 인공지능 기술을 활용해 유포된 디지털 성범죄 영상을 확인하고 6분 만에 삭제 요청까지 마무리하는 기술을 도입했습니다.

성범죄 영상의 자동 모니터링에 이어 삭제 요청 과정까지 AI가 자동으로 해주는 겁니다.

서울시는 오늘(21일) "서울 디지털 성범죄 안심지원센터의 삭제지원 건수가 AI 도입 전 2022년 2,509건에서 지난해 총 14,256건으로 468% 상승했다"며 이와 같이 밝혔습니다.

앞서 서울시는 지난 2023년 전국 최초로 온라인상에 유포된 디지털 성범죄 영상의 신속한 삭제 지원에 AI 기술을 도입했습니다.

비디오와 오디오, 텍스트 3종 종합분석을 통해 SNS나 온라인 커뮤니티, 불법 사이트 등 온라인에 무분별하게 떠도는 불법 영상물을 24시간 자동으로 찾아낼 수 있도록 한 기술입니다.

이번에 추가 개발된 AI 자동 삭제신고 시스템은 찾아낸 영상물을 자동으로 채증해 보고서 작성은 물론, 해당 사이트에 삭제를 요청하는 이메일 작성까지 AI가 자동으로 마무리하도록 했습니다.

특히 최근에 피해 영상물이 해외에 서버를 둔 사이트에 올라오는 사례가 증가함에 따라, 신고 이메일 역시 AI가 자동으로 영어, 중국어, 일본어, 러시아어 등 7개 국어로 작성하도록 설계됐습니다.

이를 통해 불법 영상물 발견 후 삭제 신고까지 드는 시간이 기존 최대 3시간에서 6분으로 단축했다고 서울시는 설명했습니다.

한편 지난 3년간 서울시가 지원한 디지털 성범죄 피해자는 2022년도 309명에서 2024년도 2,820명으로 9배 증가했고, 이에 따른 피해 지원 건수도 2022년도 6,245건에서 20224년도 39,469건으로 6배 늘어난 것으로 집계됐습니다.

서울시는 "전국 최초로 AI를 통한 모니터링 기술을 도입한 데 이어서, 이제 AI가 자동으로 삭제 신고까지 하는 기술을 도입함으로써 검출부터 삭제 신고까지 걸리는 시간을 획기적으로 단축할 것으로 기대하고 있다"고 밝혔습니다.