현실을 뒤흔든 상상…무엇을 믿겠습니까? [특집+]

[특집다큐 '자신있나? 속지않을? 딥페이크!' 중에서]

전 세계 76개국에서 선거가 치러지는 ‘슈퍼 선거의 해’인 올해.

선거를 앞두고 세계는 지금 AI 흑색선전과 전쟁을 치루는 중입니다.

중무장한 미군이 샌프란시스코를 순찰하고 미국 남부 국경은 이민자로 넘쳐납니다.

현실이라 착각할 만큼 생생한 모습이지만, 실제가 아닌 AI로 만든 겁니다.
지난해 바이든 대통령이 2024년 대선 출마를 공식 선언하자, 공화당이 공개한 선전물입니다.

이미 선거가 치러진 국가들에선 딥페이크 가짜뉴스가 선거판을 뒤흔들기도 했습니다.

<녹취> 에르도안/ 튀르키예 대통령
“앞으로 5년을 다시 한 번 통치할 책임을 저에게 맡겨 준 튀르키예 모든 국민들에게 감사합니다”

지난해 5월, 대선이 치러진 튀르키예.
3선에 도전한 에르도안 대통령이 당선되며 30년 장기 집권이 현실화됐습니다.

선거 내내 야당 후보와 접전을 벌였는데, 결선 투표 2주 전, 에르도안 대통령이 보여준 영상이 큰 파장을 불러왔습니다.

<녹취> 에르도안/ 당시 튀르키예 대선 후보(2023년 5월)
충성심이 강하고 지역적인 시민들이 그들에게 투표할까요?

분리주의 무장 단체인 쿠르드 노동당 주요 인사가 야당 후보를 지지하는 모습이 담긴 영상, 딥페이크로 만든 가짜였습니다.

하지만, 딥페이크 영상에 민심은 크게 동요했고, 결국 에르도안은 대선에서 승리했습니다.

지난해 9월 슬로바키아 총선에선 야당 후보가 돈으로 소수민족 표를 사야한다는 얘기를 나누는 음성이 퍼졌습니다.

<CNN 보도>
중대한 선거가 시작되기 고작 이틀 전, 온라인에서 (딥페이크)녹음 테이프가 퍼지기 시작했습니다. 녹음 테이프에는 시메카가 선거 개입에 대해 얘기하는 대화가 담겨있었습니다.

딥페이크 조작물로 드러났지만, 이미 야당 대표가 패배한 후였습니다.

<인터뷰> 미칼 시메카 / 진보 슬로바키아 당대표
올해 선거를 앞두고 전 세계 선거 캠페인에서 딥페이크 붐이 일어나는 해가 될 것입니다.

지난 2008년 사망한 인도네시아의 독재자, 수하르토가 2월 대선에 등장하기도 했습니다.

<녹취> 수하르토/ 전 인도네시아 대통령(2008년 사망)
저는 제2대 인도네시아 대통령 수하트르입니다. 인도네시아의 선진화라는 제 꿈을 이어갈 수 있는 골카르 당의 대표자를 당신이 뽑도록 초대하겠습니다.

사실과 거짓의 경계를 무너뜨리고 현실을 혼란스럽게 만드는 딥페이크가 유권자의 인식에 미치는 영향은 우리의 생각보다 훨씬 더 강력합니다.

<인터뷰> 오세욱/ 언론진흥재단 책임연구위원
일반인 시각에서는 (딥페이크) 이거를 아무 표시 없이 봤을 때는 사실인지 아닌지에 대해 판단하기보다는 한순간에 한마디 발언으로도 흔들릴 수가 있기 때문에, 어떻게든 선거에 영향을 미칠 수 있다고 보고 있습니다.

<인터뷰> 박주용/ 카이스트 교수, 포스트 AI연구소장
그렇게 해서 나온 선거 결과의 피해는 사실은 유권자들에게 돌아갈 수 있거든요. 그래서 이거에 대해서 우리나라뿐만 아니라 각국들도 경계를 하고 있는 것입니다.

실제로 미국에서 실시한 딥페이크 영상이 선거에 얼마나 영향을 미치는지 조사한 바에 따르면, 설문 조사에 참여한 1,474명 중 81.5%가 딥페이크 영상을 본 후 결정이 흔들렸다고 답했고, 36%는 실제로 지지 후보를 변경했다고 응답했습니다.

그렇다면 4월 10일, 22대 총선을 앞둔 우리나라는 어떨까?

<녹취> AI 윤석열
안녕하세요. AI 윤석열입니다.
윤석열 후보와 너무 닮아 놀라셨습니까?

<녹취> AI 이재명
“저 AI 이재명은 앞으로 226개 우리동네 공약과 함께 국민 한분 한분을 만나겠습니다.”

지난 대선에선 선거 유세에 AI 아바타가 등장했지만 올해는 달라졌습니다.

선거법 개정으로 선거일 90일 전부터 딥페이크를 활용한 선거 운동이 전면 금지됐기 때문입니다.

<인터뷰> 임준혁 / 중앙선관위 사이버조사과 사무관
사실 지난 대선 때도 저희가 딥페이크에 대해서 표기하는 경우에 허용을 했습니다. 그런데 값싼 비용으로 누구나가 없었던 사실을 만들 수 있었던 점이, 양태가 많이 바뀌었기 때문에 딥페이크 선거운동에 대한 논의가 활발하게 이뤄져서 이번 총선부터 향후에 계속 딥페이크 선거운동이 금지되는 방향으로 진행이 됩니다.

단속에도 불구하고 속기 쉬운 영상물의 특성상 막상 일단 조작 영상이 퍼지면 어떤 파장을 나을지 알 수 없다는 문제가 있습니다.

사실이 아니어도 바로잡는 데 시간이 걸릴 수 밖에 없습니다.

<인터뷰> 오세욱/ 언론진흥재단 책임연구위원
어? 이건 너무나 그럴듯하고, 그럼 결국 ‘내 생각이 맞았구나’라고 이것들을 쉽게 더 전파할 수 있게 되는 거죠. 그러다보니까 조작이라는 걸 알면서도 나의 생각, 나의 지향성을 뒷받침한다는 생각이 든다면 오히려 그 영상을 더 공유하려는 현상도 발생하는 것이 사실입니다.

선관위는 지난 1월부터 ‘AI 감별반’을 꾸려 딥페이크를 활용한 선거 운동 단속에 나섰습니다.

<인터뷰> 임준혁 중앙선관위 사이버조사과 사무관
시청각적으로 판단을 우선하게 되고 그 다음에 공개된 범용 프로그램 확인하고 리스트를 만들어서 전담팀과 전담 직원을 통해서 범용 프로그램을 통해 딥페이크로 만들었는지 여부를 판단합니다.

선거를 일주일여 앞두고 적발된 딥페이크 게시물은 200건을 넘어섰습니다.

그런데 전문가들은 현재의 AI 탐지 기술로는 딥페이크 악용을 100% 차단하기란 불가능하다고 지적합니다.

<INT> 박주용/ 카이스트 교수, 포스트 AI연구소장
사실은 지금은 영상을 조작하려는 사람들이 앞서 나가고 있고 그걸 따라가려는 그런 꼴로 돼 있어 가지고 이게 서로 주고받고 술래잡기를 하듯이 그렇게 발전을 하고 있기 때문에 어떠한 기술이 현재 기술을 갖고 하더라도 완벽한 해결책은 되지 않을 것입니다.

관련 방송: 2024년 4월 2일(화) 밤 10시 5분 KBS 1TV/ 유튜브

'시사기획 창' 홈페이지 https://news.kbs.co.kr/vod/program.do?bcd=0039&ref=pSiteMap
유튜브 https://www.youtube.com/channel/UCEb31RoX5RnfYENmnyokN8A
페이스북 https://www.facebook.com/changkbs
WAVVE '시사기획 창' 검색