[더보다] 누구냐 넌? 딥페이크의 덫

[더보다] 누구냐 넌? 딥페이크의 덫

텔레그램이라는 철옹성에 숨어 가학적인 성폭력을 자행하는 이름 없는 범죄자들.
일상의 모든 것들은 범죄의 표적이 됐습니다.

원은지/추적단 불꽃 ‘단’ 피해자가 올리는 모든 사진과 일상 이야기들을 공유하면서 전부 다 성적으로 소비하려고 하고

피해자들의 삶은 이들 때문에 무너져 내렸습니다.

원은지/추적단 불꽃 ‘단’ ‘스스로 죽음을 선택하고 싶다’는 생각을 하게 만드는 범죄인 거를 옆에서 계속 지켜봐 왔고

살아남기 위해 직접 범인들을 추적하고 그 이야기를 남겨야 했습니다.

원은지/추적단 불꽃 ‘단’ 생존의 문제니까. 우리는 계속 이렇게 힘들게 싸워왔다는 거를 남기려고. 그래서 계속 기록했던 것 같아요.

지금, 이 순간에도 이들 범죄자들은 음지에서 당신을 노리고 있습니다.

<지난 2일, 서울시 북아현동>

원은지/추적단 불꽃 ‘단’ 경찰 수사 단계는 어느 정도 와 있는지 알고 계세요? 선미(가명)/텔레그램 성범죄 피해자 진행 과정에 대해서 아무런 연락도 없고

선미 씨는 지난 2월, 알 수 없는 누군가로부터 SNS 메시지를 받았습니다.

본인의 얼굴 사진을 다른 여성의 몸과 합성한 음란물이 한 텔레그램 대화방에서 유포되고 있다는 내용이었습니다. 이어서 받아본 메시지는 더 충격적이었습니다.

선미(가명)/텔레그램 성범죄 피해자 합성된 사진을 제가 직접 보니까 정말 진짜 같거든요. 내 얼굴 평범한 얼굴에 누군지 모를 여자의 나체 사진이 합성돼 있었고 그 사진 밑에는 성적인 완전 입에 담지 못할 그런 성적인 말들이

넉 달이 지났지만, 해당 텔레그램 방을 아직도 찾지 못하고 있습니다.
폐쇄적으로 운영되고 있기 때문입니다.

원은지/추적단 불꽃 ‘단’ 불법 합성물과 신상 정보가 유포된 대화방에 직접 들어가 보시지 못하신 거죠? 선미(가명)/텔레그램 성범죄 피해자 들어가 보진 못했고 어떻게 들어가는지도 솔직히 잘 몰랐고

다른 음란 대화방에서 마주한 현실은 악몽과도 같았습니다.
작게는 수십 명에서 많게는 수백 명까지 모여있는 텔레그램 대화방.

특정인의 얼굴과 합성한 음란물을 올려두고 온갖 성폭력을 자행하고 있었습니다.
개인의 나이와 이름 등 신상 정보는 물론 온갖 음담패설을 주고받고 있었습니다.

선미(가명)/텔레그램 성범죄 피해자 내용과 사진들은 너무 처참했고 개인 신상 기본이고. 얘는 어디 살고 이름, 나이, 직업 뭐고

대화방의 실체를 밝히고 범인을 잡기 위해 경찰에 신고했지만, 텔레그램 대화방 주소를 알아 와야 한다는
답변이 돌아왔습니다.

선미(가명)/텔레그램 성범죄 피해자 (경찰에서는) "주소라도 알아 와야 한다." 내가 어떻게 어떤 수로 URL을 알아야 해? 내가 그 범죄자 소굴로 들어가라는 건가?

인공지능 기술의 발전으로 특정인의 얼굴을 실제 사진이나 영상 속 얼굴과 어디서든 쉽게 바꿀 수 있습니다.

<KBS 드라마 쌈마이웨이 한 장면>

KBS 드라마에 출연했던 배우 김지원 씨. 한 무료 딥페이크 제작 프로그램을 이용해 드라마 속 배우의 얼굴을 방금 촬영한 얼굴 사진 한 장과 바꿔봤습니다.

1분도 지나지 않아 드라마 속 배우의 얼굴이 사진 속 주인공의 얼굴로 감쪽같이 뒤바뀝니다.

동영상이 아닌 사진은 어떨까? 사진 합성은 더욱 빠르고 정교합니다. 서로 다른 이미지를 합성하는 딥페이크 기술. KBS 여성 앵커의 얼굴도 다른 사람의 얼굴로 순식간에 바꿀 수 있습니다.

16만여 명이 구독 중인 한 텔레그램 채널. 딥페이크 기술을 활용해 무료로 음란 합성물을 만들 수 있는 프로그램이 버젓이 공유되고 있습니다.

범죄자들이 손쉽게 특정인의 성 착취물을 만들어 배포할 수 있는 환경이 만들어진 겁니다.

이제는 표정은 물론 입 모양과 행동, 목소리까지 실제와 구별이 어려워지고 있습니다.

대한민국 국민 누구나 알고 있는 배우 조인성 씨.
이 영상 속 인물은 조인성 씨의 얼굴과 목소리를 합성해 만든 가짜 조인성입니다.

실제 이 영상은 투자 사기에 활용됐고, 조인성 씨도 피해를 봤습니다.
하지만, 딥페이크 영상을 찾아내는 건 점점 어려워지고 있습니다.

이정수/딥브레인AI 국내사업개발그룹 이사 딥페이크 영상들은 계속 발전하는 부분들인 거고 분명한 부분들은 기술은 빠르게 창은 더 빠르게 만들어지고 있는데 탐지하는 기술들 방패를 만드는 부분에는 좀 투자가 많이 좀 부족한 상황이지 않을까

<지난 6일, 서울시 북아현동>

딥페이크 성 착취물을 만들어 배포하는 가해자들을 끈질기게 추적하고 있는 원은지 씨.
은지 씨가 도움을 요청한 피해자 선미 씨에게 전화를 걸었습니다.

원은지/추적단 불꽃 ‘단’ 네 안녕하세요. 처음 이상한 계정에서 연락이 온 게 2월이 맞는 거죠 선미(가명)/텔레그램 성범죄 피해자 계속 유령 계정에 팔로우는 계속 오고 있고. 원은지/추적단 불꽃 ‘단’ 지금 직장 정보까지도 다 말을 한 거죠? 그러면 경찰에 신고했던 게 2월에서 3월 사이인가요? 선미(가명)/텔레그램 성범죄 피해자 3월 첫째 둘째 주. 갑자기 어느 날 이제 신상 정보를 언급하면서 이렇게 원은지/추적단 불꽃 ‘단’ 제출하신 자료들 다시 한번 더 보내주실 수 있을까요? 선미(가명)/텔레그램 성범죄 피해자 네 그렇게 할게요.

은지 씨가 피해자인 선미 씨와 통화를 마치고 얼마 지나지 않은 시각.
몰래 들어가 있는 텔레그램 대화방에는 그 순간에도 새로운 딥페이크 성 착취물이 계속 올라오고 있었습니다.

원은지/추적단 불꽃 ‘단’ 1분 전에도 이렇게... 오늘 오전에도 올라왔네.

피해자 선미 씨의 제보를 토대로 단서들을 하나씩 추려봅니다.
선미 씨에게 피해 사실을 알려줬던 인물은 특정 텔레그램 대화방에서 선미 씨의 얼굴 사진을 합성한
음란물이 돌아다니고 있다는 것과 돈 말고 무엇을 줄 수 있는지를 물어왔습니다. 범인을 잡기 위한 유일한 단서는 선미 씨에게 메시지를 보낸 인물의 유령 계정뿐입니다.

원은지/추적단 불꽃 ‘단’ 이 제보자도 의심스러운데.. 이걸 제보를 하면서 잡아줄 테니까 돈을 달라고 하네.

2년 전인 2022년 2월, 20대 직장인 김수지 씨에게 대학 동창이 메시지를 보내왔습니다.
텔레그램에서 누군가 수지 씨 얼굴이 합성된 사진을 보내왔고 이를 알려주는 내용이었습니다.

김수지(가명)/서울대 딥페이크 피해자 심장이 너무 엄청 빨리 뛰었고 손이 손이 떨렸던 게 기억이 나요. 지인이 보내준 사진에 제가 아는 얼굴들이 두 명이 더 있었고

무슨 일이 벌어지고 있는 건지 확인하기 위해 떨리는 손으로 텔레그램 앱을 깔았습니다.
다음날, 가해자 중 한 명이 메시지를 보내왔습니다.

김수지(가명)/서울대 딥페이크 피해자 합성 사진들이 직접 날라오기 시작했죠. 입에 담기도 어려운 음담패설들이 많이 왔고 제 사진에 대고 본인이 ○○하는 동영상이라든가

수지 씨가 경찰서로 달려가고 있는 그 순간에도 성폭력은 이어졌습니다.이 같은 행위가 범죄라는 사실을 지적하며 항의해도 가해자는 아랑곳하지 않았습니다.

김수지(가명)/서울대 딥페이크 피해자 다른 사람들한테 도움을 요청할 수가 없어요. 그 2차 가해가 너무 무섭고

무엇보다 범죄자들이 자신의 신상을 알고 있다는 게 더 큰 공포였습니다.

김수지(가명)/서울대 딥페이크 피해자 제 이름이나 어느 학교를 졸업했고 이런 신상 정보를 저한테 읊었고. 뭔가 현실 속의 신체적 위협으로 이어질 수도 있겠다는 생각을 좀 많이 했고. 이 범인이 마음을 먹으면 우리 집을 찾아온다거나 회사를 찾아온다거나 할 수도 있겠다는 생각이 들어서

다른 동문 10여 명도 자신과 똑같은 범죄 피해를 당하고 있다는 사실을 알게 됐습니다.
수지 씨는 지난달 한국 사회를 떠들썩하게 했던 이른바 서울대 딥페이크 성범죄 사건의 피해자 중 한 명입니다.

피해자들은 경찰서 3곳에 각각 고소장을 접수했습니다. 수사는 이뤄졌지만 경찰은 피의자를 찾기 어렵다며 모두 불기소 처분했습니다.

김수지(가명)/서울대 딥페이크 피해자 텔레그램과 관련된 이런 식의 디지털 성범죄를 안 되는 영역으로 생각하고 있다는 느낌을 많이 받았고. 미상의 범인으로 하면 고소도 안 된다고 하고 수사하기가 어렵다고 하니까

해외에 기반을 둔 보안 메신저인 텔레그램은 수사 협조가 어렵다는 이유 때문이었습니다.
익명의 가면을 쓴 가해자들은 경찰 수사가 진행되는 중에도 보란 듯이 피해자에 대한 성폭력을 이어갔습니다.

2022년 7월, 피해자 8명이 모여 다시 경찰에 고소장을 제출했지만 이번에도 성과는 없었습니다.
피해자들은 경찰에 대한 기대를 접었습니다. 그리고 자신들이 직접 범인들을 잡기로 했습니다.

김수지(가명)/서울대 딥페이크 피해자 잡을 수 없다고 확신하는 범인의 모습을 보는 게 너무 화가 나서 나 한 명으로 못 잡아도 언젠가는 꼬리가 잡힐 거라고 생각을 했었고

N번방과 박사방 사건 등 텔레그램에서 벌어졌던 성 착취물 사건들.
이들 사건은 이들을 끈질기게 추적한 원은지 씨를 통해 세상에 알려졌습니다.

은지 씨는 피해자들의 요청을 받고 텔레그램에 잠입했습니다.

피해자들이 서울대 출신이라는 공통점에 착안해 서울대를 졸업한 미모의 아내가 있는 30대 남성으로 가장했습니다. 피해자들로부터 도움 요청을 받은 건 2022년 7월. 이후 은지 씨는 2년 가까이 범인들을 추적했습니다.

검은 모자를 쓰고 화장실로 들어가는 남성.
수지 씨와 동문 11명에게 딥페이크 성 착취물을 보내 괴롭혀온 피의자입니다.

아내가 입은 속옷을 주겠다는 은지 씨의 말에 속아 속옷을 가지러 나타났다가 경찰에 덜미가 잡혔습니다.

은지 씨가 은밀하게 운영돼온 텔레그램 대화방에 잠입해 2년여를 추적한 끝에 만들어낸 결과물이었습니다. 서울대 딥페이크 사건의 피의자가 검거되면서 디지털 성범죄 가해자들의 수법은 보다 교묘하고 은밀해지고 있습니다.

원은지/추적단 불꽃 '단' 본인들이 추적을 당할 수도 있다는 사실들이 막 보도가 되니까 조금 더 은밀한 곳을 이들끼리 이제 만드는 거죠. AI 봇이 다른 참여자를 초대하게끔 그래서 주동자가 누구인지 모르게끔 이제 눈속임을 하는 거죠.

은지 씨는 선미 씨의 성 착취물을 만들어 배포한 범인들의 단서를 텔레그램 대화방에서 추적하고 있습니다.

원은지/추적단 불꽃 '단' 좀 조심스럽긴 해요. 가해자가 갑자기 종적을 감출 수도 있으니까요. 텔레그램 대화방들 좀 보면서 이 피해자분이랑 비슷한 유형의 피해가 있는지 딥페이크물도 좀 가해자마다 제작하는 패턴이 다 다르거든요. 그래서 그 패턴이 좀 유사한 게 있는지 좀 살펴보고 있고

성적 허위 영상물 시정 요구 건수는 급격히 늘고 있습니다.
올해 4월까지 심의 건수가 벌써 지난해 전체의 절반을 넘어섰습니다.

피해 사실을 알게 되더라도 허위 영상물을 마음대로 삭제할 수도 없습니다.
허위 영상물이 유포된 사이트 대부분이 해외에 서버를 두고 있기 때문입니다.

김명주/서울여대 정보보호학과 교수·국제인공지능윤리협회 회장 국제 공조가 필요합니다 사실은 왜냐하면 우리나라 플랫폼 가지고 유통하는 것보다는 오히려 외국 플랫폼을 통해서 유통하는 게 더 많기 때문에 적극적으로 플랫폼 사업자들한테 딥페이크 성 착취물에 관해서 일부 책임을 부과하는 것도 방법 중에 하나다라는 생각을 합니다.

어렵게 딥페이크 성범죄자들을 검거해도 처벌이 쉽지 않습니다. 성 착취물을 고의로 퍼트릴 목적으로 만들었다는 사실을 입증해야 하기 때문입니다. 2차 가해자들을 처벌할 법적 근거도 없습니다.

조윤희/변호사 이러한 허위 영상물의 편집이나 반포 행위에 얼마나 적극적으로 가담했는지 사실은 거의 공범에 준하는 정도로 혹은 방조범에 준하는 정도로 이런 행위들에 기여한 것이 확인되지 않는다고 한다면 다 이제 처벌 망에서 빠져나가게 되는 그런 문제가 있고요.

가면이 벗겨진 가해자들에 대한 재판은 속속 진행되고 있습니다.

허위 영상물을 만들어 배포한 가해자들에게는 지금까지 어떤 판결이 내려졌을까?
이른바 딥페이크 방지법이 시행된 2020년 6월 이후 내려진 판결 백여 건 가운데 절반 이상은 집행 유예에 그쳤습니다. 허위 영상물은 불법 촬영물보다 양형 기준이 더 낮기 때문입니다.

조윤희/변호사 불법 촬영 내지는 반포의 경우에 7년 이하의 징역으로 되어 있는데 허위 영상물 편집 반포 등 행위의 경우에는 징역 5년 이하로 법정형이 규정이 되어 있거든요. 법에 정해진 형량부터가 좀 차이가 나는 부분이 있고

디지털 성범죄의 특성을 고려해 보다 적극적인 위장수사가 필요하다는 의견들도 제기되고 있습니다.

오규식/서울경찰청 사이버범죄수사2대장 함정 수사 확대의 필요성이 만약에 논의해서 지금의 부분이 대응이 더 강화될 수 있다면 그런 부분도 사회적 논의가 필요할 것으로 보입니다. 결국 법원에서 허가받은 위장 수사라면 수사상에서 일어나는 다양한 것들에 대한 면책 이런 부분들이 보장이 된다면 조금 더 적극적인 위장 수사가 진행될 수 있는 거죠.

범인들을 추적하는 건 갈수록 어려워지고 있습니다.

원은지/추적단 불꽃 ‘단’ 특히나 악랄한 지점은 어떤 대비도 할 수 없고 누구나 다 피해자가 될 수 있는 범죄죠.

누구나 사용하는 SNS 프로필 사진이 도용되고 있습니다.

원은지/추적단 불꽃 ‘단’ 그냥 소셜 미디어나 아니면 카카오톡에 프로필 사진을 설정했다는 거 그래서 범죄가 시작이 된 건데

피해자들이 범인을 추적해야 하는 안타까운 현실도 반복되고 있습니다.

김수지(가명)/서울대 딥페이크 성범죄 피해자 선례를 꼭 남기고 싶었어요. 텔레그램으로 범죄를 하더라도 결국엔 잡힐 수도 있다. 선미(가명)/텔레그램 성범죄 피해자 절대 숨지 말고 반드시 세상 밖에 나와서 당당하게 행동했으면 좋겠다는 바람이 너무 크고. 당신은 절대 혼자가 아니다. 이렇게 얘기해 주고 싶어요.

수사의 한계, 경미한 처벌만을 탓하기엔 너무 많은 피해자들이 고통을 받고 있습니다.

누구나 무고한 피해자가 될 수 있는 딥페이크 성범죄에 대한 보다 적극적인 사회적 논의와 대책 마련이 필요합니다.