[친절한 뉴스K] “가짜 얼굴에 속아 수백억 날렸다”…선거까지 뒤흔든 ‘딥페이크’

[앵커]

딥러닝과 가짜의 합성어인 '딥페이크' 들어보셨나요.

사진이나 영상뿐 아니라 목소리까지도 조작해 가짜를 진짜처럼 만드는 기술인데요.

허위 정보를 퍼뜨리는데 악용되는 데다 사기에까지 쓰이고 있습니다.

최근엔 선거판까지 뒤흔들고 있는데, 이러한 딥페이크의 위험성을 친절한 뉴스에서 전해드립니다.

김세희 기자입니다.

[리포트]

홍콩의 한 금융사 직원이 회사 최고 재무책임자와 영상 통화를 마친 뒤 우리 돈 340억 원이 넘는 돈을 송금했습니다.

하지만 이 모든 건 사기였는데요.

직원이 영상 통화를 한 최고 재무책임자 얼굴은 딥페이크로 만들어진 가짜였던 겁니다.

비단 홍콩만의 문제가 아니라 딥페이크를 이용한 사기는 국내로까지 침투했습니다.

최근 국내에서도 유명 배우들의 얼굴과 목소리로 가짜 영상을 만들어 유튜브 광고로 투자 사기를 벌인 사건이 드러나기도 했습니다.

실제같이 감쪽같은 영상과 사진들.

딥페이크는 선거판도 뒤흔들고 있습니다.

지난달 미국 뉴햄프셔 유권자들에게 바이든 대통령의 목소리를 흉내 낸 전화가 걸려왔습니다.

'말도 안 되는 소리'라는 그의 표현을 따라 하며 민주당 대선 후보 경선에 투표하지 말라고 권합니다.

[바이든/미 대통령/사칭 가짜 음성 : "말도 안 되는 소리입니다. 여러분의 투표는 이번 화요일이 아니라, 11월에 변화를 만들 수 있어요."]

민주당 출신 힐러리 전 장관이 공화당 인사를 지지하는 감쪽같은 영상도 있습니다.

[힐러리 클린턴/미국 전 국무장관 조작 영상/지난해 4월 : "이런 말을 하면 사람들이 놀라겠지만, 저는 론 디샌티스 주지사(공화당 소속)를 좋아합니다. 많이요."]

트럼프 전 대통령이 코로나19 대응을 맡았던 파우치 전 미국 국립알레르기 전염병 연구소 소장을 껴안는 이 조작 사진은 파우치에게 반감을 가진 보수 유권자들을 자극하기 위해서 반 트럼프 세력이 만든 겁니다.

딥페이크에 대한 우려가 커지자 오픈 AI와 구글, 메타 등 주요 빅테크 기업들은 공동 대응에 나섰습니다.

이들 기업은 AI 도구로 만든 선거 관련 콘텐츠는 식별할 수 있도록 하고, AI의 위험성을 교육하기로 합의했습니다.

많은 전문가들은 전 세계 선거가 많은 올해, AI 선거 콘텐츠가 유권자를 속이고 선거 절차를 위협할 수 있다고 우려를 나타내고 있습니다.

우리나라도 예외는 아닙니다.

지난 대선 때 후보들은 AI 기술을 선거 운동에 활용했었습니다.

딥페이크로 만든 후보들의 AI 아바타들이 유권자들이 남긴 질문에 직접 답변까지 했었죠.

하지만 이번 총선부터 이런 선거 운동은 단속 대상이 됩니다.

[임성재/사무관/중앙선거관리위원회 공보과 : "선거가 임박한 시기에 딥페이크 영상이나 이미지를 이용해 선거 운동을 하는 경우 유권자의 판단을 흐리게 할 수 있기 때문에 제한하는 것입니다."]

국회는 지난해 12월, 선거일 90일 전부터 딥페이크를 활용한 선거 운동을 원천 금지하는 공직선거법 개정안을 의결했습니다.

지난달 29일부터 지난 16일까지 19일간 중앙선거관리위원회가 모니터링을 통해 인지한 딥페이크 불법 선거 운동 행위는 120건을 넘었습니다.

선거일이 가까워질수록 이 같은 불법 딥페이크 영상과 게시물이 넘쳐날 가능성이 높습니다.

딥페이크는 우리에게 신기한 세상을 가져다 주기도 하지만, 한편에선 딥페이크로 인한 가짜 뉴스와 정보가 민주주의와 우리 일상을 위협하고 있습니다.

KBS 뉴스 김세희입니다.

영상편집:강지은/그래픽:민세홍