순식간에 만드는 ‘딥페이크’ 음란물…피의자 70%는 10대

인터넷에서 흔히 볼 수 있는 합성물 제작 사이트.

지난해 6월, 부산의 한 중학교 학생들이 인공지능을 활용한 '딥페이크' 기술로 교사 2명의 사진을 음란물과 합성해 돌려 봤습니다. 지난 5월 학교 수련회에서 이 사실을 알게 된 다른 학생이 신고하면서 경찰이 조사에 나섰습니다.

앞서 지난 4월에는 또 다른 중학교에서 딥페이크로 교사 사진을 합성해 만든 음란물이 유포됐지만, 최초 유포자를 찾지 못해 지역 교권보호위원회에서 '가해자 없는 교권 침해' 판정을 받으며 사건은 마무리됐습니다.

지난달 한 고등학교에서는 동급생 등의 얼굴을 불법으로 합성해 음란물을 만들어 판매한 혐의로 고등학생이 경찰 수사를 받고 있습니다.

■ 피의자 70% 이상 '10대'…스마트기기 익숙하고 '장난'으로 인식

딥페이크로 인한 성범죄 피해는 빠르게 늘어나고 있습니다. 방송통신심의위원회가 딥페이크 등 성적 허위 영상물을 차단하거나 삭제해달라고 요구한 사례는 2020년 473건에서 지난해 7,187건으로 15배 가까이 늘었습니다.

특히 앞선 사례들처럼 딥페이크와 관련한 10대 범죄가 잇따르고 있습니다. 2021년 78명이던 전국 성적 허위 영상물 유포 피의자 숫자는 지난해에는 120명으로 늘었습니다. 이 가운데 10대 피의자 숫자는 51명에서 91명으로 배 가까이 늘었습니다. 전체 피의자의 76%가 10대인 겁니다.

10대는 온라인이나 스마트 기기에 비교적 익숙한데다, 외국에 기반을 둔 대부분 딥페이크 사이트는 성인인증이 필요 없어 성인보다 더 쉽게 접근할 수 있었던 것으로 보입니다.

또, 또래 친구들끼리 장난삼아 사진을 합성하면서 범죄라는 인식을 갖지 못하는 것도 10대 범죄가 늘어나는 원인으로 추정됩니다.

기자 얼굴을 KBS 부산 뉴스 앵커 얼굴에 합성한 사진.

■ 인터넷 사이트서 10초만에 '뚝딱'…접근 쉬운 '딥페이크'

취재진은 10대가 딥페이크 범죄에 얼마나 손쉽게 접근할 수 있는지 살펴보기 위해 동아대 메타미디어연구소의 도움을 받아 딥페이크 영상을 제작해 봤습니다. 일부러 10대 접근이 쉬운 무료 사이트를 골랐습니다.

딥페이크 영상을 만드는 데 필요한 준비물은 사진 한 장. 단순히 사진을 합성하는데는 10초도 걸리지 않았고, 영상을 만드는데도 10분이 채 걸리지 않았습니다. 이 같은 합성 사이트는 포털사이트에서 검색만 해도 쏟아질 정도로 쉽게 접근할 수 있었습니다. 이용 과정에서 개인 정보를 요구하지도, 올리는 사진을 제한하지도 않았습니다.

동아대 메타미디어연구소 도움을 받아 한 제작 사이트에서 사진을 합성하는 모습

■ "단속·예방 교육 등 강화해야"

장난으로 이런 영상을 만들었다고 해도, 적발되면 강력한 처벌을 받을 수 있습니다. 성폭력 범죄의 처벌 등에 관한 특례법에 따라 성적 수치심을 유발할 수 있는 허위 영상물을 제작하거나 퍼뜨리면 5년 이하의 징역 또는 5천만 원 이하의 벌금형으로 처벌받습니다.

일반적으로 10대 범죄는 나이에 따라 촉법 우범소년 보호 처분, 소년보호 사건 등으로 처리되지만 합성물을 판매하거나 행위 자체가 심각하다고 판단되면 형사 재판까지 이어질 수 있습니다.

전문가들은 인공지능 기술을 악용한 10대 범죄를 막기 위해 적극적인 단속과 예방교육이 필요하다고 지적합니다.

하태영 동아대 법학전문대학원 교수는 "기술이 도입된 지 얼마 안 된 만큼 무작정 처벌을 늘리거나 기술을 통제하기보다는 기존에 다른 학생들이 처벌받았던 사례를 안내하는 등 예방교육이 우선돼야 한다"고 강조했습니다.

부산시교육청은 최근 지역에서 비슷한 사례가 잇따르자 부산지역 620여 개 초중고교를 직접 찾아 불법 합성물 제작·유포 등에 대한 처벌을 안내하는 등 예방교육을 강화하고 있습니다.