위험한 딥페이크 기술…청소년에 무방비 노출

[앵커]

청소년들이 AI기술을 활용한 음란물에 무방비로 노출돼 있습니다.

아무런 제약없이 이런 기술에 접근해 음란물을 만들어 유포하는 청소년 범죄행위도 속출하고 있습니다.

신건 기자가 취재했습니다.

[리포트]

중학교 교사와 학생 얼굴이 합성된 음란물로 울산의 한 중학교가 발칵 뒤집혔습니다.

경찰 조사까지 이어졌고 경찰은 이 학교 남학생 2명이 저지른 일로 보고 있습니다.

[울산교육청 관계자/음성변조 : "피해학생은 일시보호를 내려서 피해를 보지 않도록 배려해주는 조치가 있고, 최대한 학교에서는 피가해학생을 분리할 수 있는데 집중할 수 있도록 조치를 하고 있습니다."]

중학생 2명은 인공지능을 이용한 딥페이크 기술을 활용한 것으로 추정됩니다.

인공지능을 이용해 특정인의 얼굴 등을 다른 화면에 덧입히는 방식입니다.

문제는 이런 딥페이크 기술에 어른 아이 할 것 없이 누구나 접근할 수 있다는 겁니다.

딥페이크 음란물 제작사이트는 사진을 올리는 것만으로 손쉽게 이용할 수 있습니다.

대부분 외국에 서버가 있어 성인인증 같은 안전장치도 없습니다.

방송통신위원회가 차단을 하더라도 이를 우회하는 방법을 공유해 이용하기도 합니다.

청소년들이 호기심에 이용하다 범죄로 이어지는 경우가 속출하고 있습니다.

2021년 경찰청의 불법 허위영상물 집중 단속 결과, 10대가 피의자 절반을 넘었습니다.

[이건수/백석대학교 경찰학과 교수 : "아이들 같은 경우에는 장난삼아, 호기심에 만드는데, 인터넷의 위험성. 이런 피해가 발생하고, 처벌도 강화된다는 실질적인 교육이 이뤄져야 한다고 봐요."]

AI 기술로 합성 음란물을 만들거나, 배포할 경우 성폭력 처벌법에 따라 처벌 받을 수 있습니다.

다방면에서 AI기술이 활용되고 있는 가운데 이를 악용한 범죄와 2차 피해를 막기 위한 적극적인 단속과 차단 대책이 필요해보입니다.

KBS 뉴스 신건입니다.