“놀이처럼 퍼지는 아동·청소년 성 착취물”…AI로 90초 만에 잡는다

입력 2024.05.23 (12:42) 수정 2024.05.23 (12:53)

읽어주기 기능은 크롬기반의
브라우저에서만 사용하실 수 있습니다.

[앵커]

최근 서울대에서도 동문들의 합성 음란 사진을 돌려보는 사건이 적발되는 등, 온라인 성 착취물 관련 범죄가 끊이지 않고 있습니다.

특히 최근엔 아동과 청소년 피해가 급증하는 추세인데요.

서울시가 인공지능, AI를 이용해 신속하게 분석·삭제 작업을 하기로 했습니다.

이유민 기자가 취재했습니다.

[리포트]

16살 김모 양의 악몽은 채팅 아르바이트와 함께 시작됐습니다.

상대방과 대화를 할 때마다 1건당 70원씩 받는 조건이었는데, 신체 노출 사진을 보내면 5만 원을 준다는 말에 덜컥 사진을 보냈습니다.

하지만 가해자는 돈을 주지 않고 사진을 온라인에 유포했습니다.

이처럼 메신저와 SNS로 성 착취물을 퍼뜨리는 범죄가 마치 놀이처럼 퍼지는 상황.

10대 청소년 성 착취물 피해자 지원 건수가 1년 사이 7배 넘게 급증할 정도로 피해가 커지고 있습니다.

이에 서울시가 아동·청소년 성 착취물을 파악하는 인공지능, AI를 개발해 단속에 나섰습니다.

AI가 1,500건 이상 누적된 학습 데이터로 등장인물의 나이대를 판별하고, 얼굴이 안나와도 주변 사물이나 언어를 분석해 청소년 피해 여부를 재확인합니다.

사람이 하는데 2시간이 걸렸던 영상물 탐지 작업이 90초로 단축됐고 정확도는 3배 이상 높아졌습니다.

[김준철/서울기술연구원 수석연구원 : "이런 교복물들이 탐지가 되면 사실 아청물(아동·청소년 성 착취물) 피해 영상물일 확률이 높기 때문에 검출하는 기법을 적용을 했고요."]

피해자 신고 없이도 신속히 영상물을 삭제하고, 수사기관 채증 자료로도 활용할 예정입니다.

[문기현/서울디지털성범죄 안심지원센터장 : "AI는 한번 피해 촬영물이나 키워드를 입력하면 한국, 중국, 일본 등 (사이트도) 다 한 번에 검색이 가능하기 때문에 선제적 삭제를…."]

서울시는 사후 단속과 함께 아동·청소년이 원천적으로 성 착취 대화방에 유입되지 않도록 모니터링도 강화하겠다고 밝혔습니다.

KBS 뉴스 이유민입니다.

촬영기자:김형준/영상편집:박주연/그래픽:고석훈 최창준

■ 제보하기
▷ 카카오톡 : 'KBS제보' 검색, 채널 추가
▷ 전화 : 02-781-1234, 4444
▷ 이메일 : kbs1234@kbs.co.kr
▷ 유튜브, 네이버, 카카오에서도 KBS뉴스를 구독해주세요!


  • “놀이처럼 퍼지는 아동·청소년 성 착취물”…AI로 90초 만에 잡는다
    • 입력 2024-05-23 12:42:24
    • 수정2024-05-23 12:53:32
    뉴스 12
[앵커]

최근 서울대에서도 동문들의 합성 음란 사진을 돌려보는 사건이 적발되는 등, 온라인 성 착취물 관련 범죄가 끊이지 않고 있습니다.

특히 최근엔 아동과 청소년 피해가 급증하는 추세인데요.

서울시가 인공지능, AI를 이용해 신속하게 분석·삭제 작업을 하기로 했습니다.

이유민 기자가 취재했습니다.

[리포트]

16살 김모 양의 악몽은 채팅 아르바이트와 함께 시작됐습니다.

상대방과 대화를 할 때마다 1건당 70원씩 받는 조건이었는데, 신체 노출 사진을 보내면 5만 원을 준다는 말에 덜컥 사진을 보냈습니다.

하지만 가해자는 돈을 주지 않고 사진을 온라인에 유포했습니다.

이처럼 메신저와 SNS로 성 착취물을 퍼뜨리는 범죄가 마치 놀이처럼 퍼지는 상황.

10대 청소년 성 착취물 피해자 지원 건수가 1년 사이 7배 넘게 급증할 정도로 피해가 커지고 있습니다.

이에 서울시가 아동·청소년 성 착취물을 파악하는 인공지능, AI를 개발해 단속에 나섰습니다.

AI가 1,500건 이상 누적된 학습 데이터로 등장인물의 나이대를 판별하고, 얼굴이 안나와도 주변 사물이나 언어를 분석해 청소년 피해 여부를 재확인합니다.

사람이 하는데 2시간이 걸렸던 영상물 탐지 작업이 90초로 단축됐고 정확도는 3배 이상 높아졌습니다.

[김준철/서울기술연구원 수석연구원 : "이런 교복물들이 탐지가 되면 사실 아청물(아동·청소년 성 착취물) 피해 영상물일 확률이 높기 때문에 검출하는 기법을 적용을 했고요."]

피해자 신고 없이도 신속히 영상물을 삭제하고, 수사기관 채증 자료로도 활용할 예정입니다.

[문기현/서울디지털성범죄 안심지원센터장 : "AI는 한번 피해 촬영물이나 키워드를 입력하면 한국, 중국, 일본 등 (사이트도) 다 한 번에 검색이 가능하기 때문에 선제적 삭제를…."]

서울시는 사후 단속과 함께 아동·청소년이 원천적으로 성 착취 대화방에 유입되지 않도록 모니터링도 강화하겠다고 밝혔습니다.

KBS 뉴스 이유민입니다.

촬영기자:김형준/영상편집:박주연/그래픽:고석훈 최창준

이 기사가 좋으셨다면

오늘의 핫 클릭

실시간 뜨거운 관심을 받고 있는 뉴스

이 기사에 대한 의견을 남겨주세요.

수신료 수신료