청소년 딥페이크 범죄 ‘심각’…예방책 시급

입력 2024.07.11 (19:12) 수정 2024.07.11 (19:28)

읽어주기 기능은 크롬기반의
브라우저에서만 사용하실 수 있습니다.

[앵커]

10대들의 딥페이크 불법 합성물 문제 취재한 김영록 기자와 함께 좀 더 자세한 이야기 들어보겠습니다.

김 기자 어서오세요.

앞선 리포트를 보니 제 얼굴이 김 기자 얼굴로 쉽게 뚝딱 합성되던데, 먼저 '딥페이크'가 뭔지부터 다시 설명해 주시죠.

[기자]

네 딥페이크는 인공지능 기술인 '딥러닝'과 가짜를 의미하는 '페이크'의 합성업니다.

보통 인공지능 기술을 이용해 사실 여부를 구별하기 어렵게 만든 뉴스나 이미지, 영상을 뜻합니다.

사진이나 짧은 원본 영상을 가지고 감쪽같은 가짜 영상을 만들 수 있는데요.

지난 4월 총선을 앞두고는 정치인들을 대상으로 한 가짜 영상이 논란이 됐었죠.

최근에는 10대 학생들이 이 기술을 활용해 교사나 동급생 등 얼굴을 음란물에 합성해 문제가 되고 있습니다.

[앵커]

언뜻 듣기에는 복잡한 기술이 필요해 보이는데, 만드는게 쉬운가요?

[기자]

네, 취재진이 동아대 메타미디어연구소의 도움을 받아 직접 영상을 합성해봤는데요.

또 10대들이 쉽게 접근할 수 있는 무료 사이트도 이용해 봤습니다.

무료로 만든 영상이라 그렇게 좋은 품질은 아니었는데요.

짧은 시간에 사진을 동영상으로 만들수 있습니다.

또 만 원 안팎만 내면 비교적 고품질로도 만들 수 있습니다.

포털에 검색을 해봤더니 공짜로 합성을 해주는 사이트가 쏟아졌습니다.

합성을 어떻게 하는지, 또 어떤 사이트가 좀 더 품질이 좋은지를 소개하는 영상도 쉽게 찾을 수 있었습니다.

[앵커]

10대들이 더 쉽게 노출돼 있는데 어느 정도입니까?

[기자]

불법 합성물로 인한 피해 자체는 매년 증가세를 보이고 있습니다.

2021년 70여 명이던 관련 범죄 피의자 수는 지난해 120여 명으로 늘었는데요.

방송통신위원회에 성적 허위영상물을 차단하거나 삭제해달라는 요구도 같은 기간 천9백여 건에서 지난해 7천백여 건으로 늘었습니다.

앞서 보셨다시피 이 중 10대 비율이 70%로 아주 높은데요.

드러난 수만 이정도지, 피해자가 교사인 경우엔 학생 처벌을 원하지 않는 경우도 종종 있어 더 많을 수도 있습니다.

온라인, 스마트기기에 익숙한 10대들은 어른보다 손쉽게 딥페이크 사이트에 접근하고 있고, 또 장난이라고 치부해 범죄라고 생각하지 않는 경우도 많습니다.

게다가 지금까지 연예인 얼굴을 합성한 음란물을 판매하다 적발된 경우는 있었지만 리포트에서 보신대로 최근엔 지인 얼굴을 합성해 판매하는 사례까지 등장해 문제가 커지고 있습니다.

고등학생이 만들어 판매한 이런 사례는 부산에선 처음인걸로 경찰은 파악하고 있습니다.

[앵커]

쉽지 않겠지만, 대책은 뭐가 있을까요?

[기자]

네, 성적 수치심을 유발할 수 있는 허위 영상물을 제작하거나 퍼뜨리면 5년 이하의 징역 또는 5천만 원 이하의 벌금형으로 상당히 중한 처벌을 받는데요.

10대 청소년들은 나이에 따라 촉법 우범소년 보호 처분, 소년보호 사건 등으로 처리되지만 하지만 합성물에 대한 판매라든지 행위 자체가 심각한 경우에는 형사재판을 받을 수 있습니다.

10대 들도 이런 성범죄의 경우엔 보다 더 강한 처벌을 받는다는 인식이 필요해 보입니다.

무엇보다 딥페이크로 인한 불법 합성물이 논란이 된 건 사실 얼마 안 됐기 때문에, 딥페이크 관련 인터넷 사이트 접근 통제나, 10대들에 대한 처벌 강화에 대한 논의도 중요하지만 더 중요한건 예방 활동이 우선입니다.

이런 불법 합성이 얼마나 위중한 범죄고 행위에 따라 이런 강력한 처벌까지 받을 수 있다는 점을 충분히 교육하고 이후에 법이나 관련 제도를 강화해야 한다고 지적하고 있습니다.

최근 비슷한 사례가 잇따르면서 부산교육청도 부산지역 620여 개 초중고교를 찾아가 불법 합성에 따른 처벌을 안내하는 등 예방 활동을 강화하고 있습니다.

[앵커]

네, 여기까지 듣겠습니다.

■ 제보하기
▷ 카카오톡 : 'KBS제보' 검색, 채널 추가
▷ 전화 : 02-781-1234, 4444
▷ 이메일 : kbs1234@kbs.co.kr
▷ 유튜브, 네이버, 카카오에서도 KBS뉴스를 구독해주세요!


  • 청소년 딥페이크 범죄 ‘심각’…예방책 시급
    • 입력 2024-07-11 19:12:13
    • 수정2024-07-11 19:28:19
    뉴스7(부산)
[앵커]

10대들의 딥페이크 불법 합성물 문제 취재한 김영록 기자와 함께 좀 더 자세한 이야기 들어보겠습니다.

김 기자 어서오세요.

앞선 리포트를 보니 제 얼굴이 김 기자 얼굴로 쉽게 뚝딱 합성되던데, 먼저 '딥페이크'가 뭔지부터 다시 설명해 주시죠.

[기자]

네 딥페이크는 인공지능 기술인 '딥러닝'과 가짜를 의미하는 '페이크'의 합성업니다.

보통 인공지능 기술을 이용해 사실 여부를 구별하기 어렵게 만든 뉴스나 이미지, 영상을 뜻합니다.

사진이나 짧은 원본 영상을 가지고 감쪽같은 가짜 영상을 만들 수 있는데요.

지난 4월 총선을 앞두고는 정치인들을 대상으로 한 가짜 영상이 논란이 됐었죠.

최근에는 10대 학생들이 이 기술을 활용해 교사나 동급생 등 얼굴을 음란물에 합성해 문제가 되고 있습니다.

[앵커]

언뜻 듣기에는 복잡한 기술이 필요해 보이는데, 만드는게 쉬운가요?

[기자]

네, 취재진이 동아대 메타미디어연구소의 도움을 받아 직접 영상을 합성해봤는데요.

또 10대들이 쉽게 접근할 수 있는 무료 사이트도 이용해 봤습니다.

무료로 만든 영상이라 그렇게 좋은 품질은 아니었는데요.

짧은 시간에 사진을 동영상으로 만들수 있습니다.

또 만 원 안팎만 내면 비교적 고품질로도 만들 수 있습니다.

포털에 검색을 해봤더니 공짜로 합성을 해주는 사이트가 쏟아졌습니다.

합성을 어떻게 하는지, 또 어떤 사이트가 좀 더 품질이 좋은지를 소개하는 영상도 쉽게 찾을 수 있었습니다.

[앵커]

10대들이 더 쉽게 노출돼 있는데 어느 정도입니까?

[기자]

불법 합성물로 인한 피해 자체는 매년 증가세를 보이고 있습니다.

2021년 70여 명이던 관련 범죄 피의자 수는 지난해 120여 명으로 늘었는데요.

방송통신위원회에 성적 허위영상물을 차단하거나 삭제해달라는 요구도 같은 기간 천9백여 건에서 지난해 7천백여 건으로 늘었습니다.

앞서 보셨다시피 이 중 10대 비율이 70%로 아주 높은데요.

드러난 수만 이정도지, 피해자가 교사인 경우엔 학생 처벌을 원하지 않는 경우도 종종 있어 더 많을 수도 있습니다.

온라인, 스마트기기에 익숙한 10대들은 어른보다 손쉽게 딥페이크 사이트에 접근하고 있고, 또 장난이라고 치부해 범죄라고 생각하지 않는 경우도 많습니다.

게다가 지금까지 연예인 얼굴을 합성한 음란물을 판매하다 적발된 경우는 있었지만 리포트에서 보신대로 최근엔 지인 얼굴을 합성해 판매하는 사례까지 등장해 문제가 커지고 있습니다.

고등학생이 만들어 판매한 이런 사례는 부산에선 처음인걸로 경찰은 파악하고 있습니다.

[앵커]

쉽지 않겠지만, 대책은 뭐가 있을까요?

[기자]

네, 성적 수치심을 유발할 수 있는 허위 영상물을 제작하거나 퍼뜨리면 5년 이하의 징역 또는 5천만 원 이하의 벌금형으로 상당히 중한 처벌을 받는데요.

10대 청소년들은 나이에 따라 촉법 우범소년 보호 처분, 소년보호 사건 등으로 처리되지만 하지만 합성물에 대한 판매라든지 행위 자체가 심각한 경우에는 형사재판을 받을 수 있습니다.

10대 들도 이런 성범죄의 경우엔 보다 더 강한 처벌을 받는다는 인식이 필요해 보입니다.

무엇보다 딥페이크로 인한 불법 합성물이 논란이 된 건 사실 얼마 안 됐기 때문에, 딥페이크 관련 인터넷 사이트 접근 통제나, 10대들에 대한 처벌 강화에 대한 논의도 중요하지만 더 중요한건 예방 활동이 우선입니다.

이런 불법 합성이 얼마나 위중한 범죄고 행위에 따라 이런 강력한 처벌까지 받을 수 있다는 점을 충분히 교육하고 이후에 법이나 관련 제도를 강화해야 한다고 지적하고 있습니다.

최근 비슷한 사례가 잇따르면서 부산교육청도 부산지역 620여 개 초중고교를 찾아가 불법 합성에 따른 처벌을 안내하는 등 예방 활동을 강화하고 있습니다.

[앵커]

네, 여기까지 듣겠습니다.

이 기사가 좋으셨다면

부산-주요뉴스

더보기

오늘의 핫 클릭

실시간 뜨거운 관심을 받고 있는 뉴스

이 기사에 대한 의견을 남겨주세요.

수신료 수신료

많이 본 뉴스