뛰는 AI 위 나는 AI…‘딥페이크’도 인공지능이 잡는다

[앵커]

인공지능.

AI를 활용해 진짜 같은 음성이나 영상을 만드는 기술을 딥 페이크 라고 하죠.

뛰는 딥 페이크 위에 나는 AI가 있습니다.

가짜 음성과 영상을 가려내는데 AI가 첨병 역할을 하고 있습니다.

단 몇분만에 가짜를 척척 찾아냅니다.

이 소식은 황정호 기자가 취재했습니다.

[리포트]

한 남성이 눈을 깜박이며, 발표하는 영상.

자연스러워보이지만, AI로 만든 '딥페이크' 영상입니다.

얼굴 부분이 합성됐다는 것을 인공지능이 5분 만에 찾아낸 겁니다.

[이정수/딥브레인AI 국내사업개발그룹 이사 : "구간별로 이게 진짜인지 가짜인지 구분이 가능하고 육안으로 구분하기는 어렵지만, 이런 딥러닝을 통해서 학습하다 보면 그 패턴들이 보이는 거고."]

이 대학 연구팀은 특정 소리가 조작됐는지 판별하는 기술을 개발하고 있습니다.

바이든 미국 대통령을 사칭한 딥페이크 음성.

[바이든/미 대통령/사칭 가짜 음성 : "말도 안 되는 소리입니다. 여러분의 투표는 이번 화요일이 아니라, 11월에 변화를 만들 수 있어요."]

1분도 안돼 '가짜'로 판명납니다.

AI에게 소리의 특징과 패턴 등을 학습시켜 가려내게 한 겁니다.

["밤양갱~"]

한 가수의 노래를 AI가 여러 가수 버전으로 만든 영상이 유행할 정도로, 딥페이크는 일상에 깊이 파고 들고 있습니다.

이 곳에서 제 인공지능 음성이 하루 만에 완성됐는데요.

한 번 들어보겠습니다.

["인공지능이 제 목소리와 비슷하게 문장을 읽습니다."]

이 때문에 딥페이크 탐지 기술 개발과 함께 선제적 고지 등 관련 규정을 마련해야 한다는 지적이 나오고 있습니다.

[정수환/숭실대학교 AI보안연구센터 센터장 : "동의 받지 않는 인물 사진을 넣었을 때 생성을 못 하게 한다든가 생성을 억제하는 그런 가이드 같은 것을 줄 수가 있습니다."]

오픈AI와 구글 등 빅테크들은 이미 딥페이크의 식별과 탐지를 위한 글로벌 표준 마련에 나섰습니다.

KBS 뉴스 황정호입니다.

촬영기자:이재섭 송혜성/영상편집:박은주/그래픽:박미주