진짜같은 가짜, 딥페이크 직접 제작해보니…100만 회 학습한 AI [특집+]

[특집다큐 '자신있나? 속지않을? 딥페이크!' 중에서]

<오프닝> 윤수영/ KBS아나운서
백문이 불여일견. ‘보는 것이 진실’이라는 동서양을 막론한 진리가 어쩌면 더 이상 통하지 않는 시대가 온 건지도 모릅니다. 이렇게 말이죠.

"과연 이 중에 누가 실제 인물인지 여러분은 구분할 수 있으신가요?
진짜는 누구일까요? 이 얼굴? 아니면 이 얼굴?
문제는 A기술을 누구나 너무 쉽게 이용할 수 있게 되면서 이를 악용하는 문제가 심각해지고 있다는 겁니다."

스튜디오에서의 대역 촬영을 시작으로 딥페이크물 제작에 들어갔습니다.

얼굴 표정을 잘게 쪼개 분석한 사진들.

<인터뷰> 신예슬/ 디오비 스튜디오 매니저
윤수영 아나운서 같은 경우는 4,750장으로 세분화돼서 나눠져서 거기에서 이제 자연스럽게 합성할 수 있도록 이제 되었습니다.

이렇게 얼굴을 수천 장으로 쪼개 나누는 것도, 그리고 이 세분화된 표정과 목소리까지 반복적으로 학습하는 것도 바로 AI입니다.

<인터뷰> 신예슬/ 디오비 스튜디오 매니저
같은 동영상을 100만 회 정도의 학습량을 채우면서 이제 얼굴 가상 인물을 만들어나가는 거죠.

그리고 눈과 입술, 얼굴 윤곽 등 보정작업을 거쳐, 구별하기 힘들 정도의 정밀한 딥페이크가 완성됩니다.

한 사람의 얼굴을 여러 사람에게 입히는 것도 문제 없습니다.

지난 2월, 홍콩
다국적기업의 한 재무담당자가 충격적인 사건에 휘말립니다.

시작은 영국 본사에서 걸려온 화상 통화.

최고 책임자를 비롯한 임원 6명과 진행된 화상 통화 후 우리 돈 340억 원을 송금했는데, 알고 보니 사기였습니다.

화상 회의에 참석한 6명 모두 딥페이크로 만든 가짜였습니다.

<녹취> 송혜교 딥페이크
“안녕하세요. 저는 송혜교입니다. 교수님의 QF 어린이 기금회를 진심으로 감사드리며...”

<녹취> 조인성 딥페이크
“안녕하세요. 조인성입니다. 수강생들이 자선을 위해 힘을 보태어주심에 감사드립니다.”

유명 배우들이 등장해 행사 개최를 축하하며 투자를 권유하는 영상, 투자자들은 이 영상을 믿고 돈을 투자했지만 사기였습니다.

해당 배우의 실제 모습과 비교해봐도 상당히 흡사하지만, 얼굴, 입모양, 목소리까지 조작한 ‘딥페이크’였던 겁니다.

<인터뷰> 박주용 카이스트 교수/ 포스트 AI연구소장
유명인을 도용한다든가 이런 이름을 도용해서 사람들을 속이는 것은 항상 존재해왔을 것 같아요. 분명히 100년 전에도, 200년 전에도 있었을 것인데, 문제는 지금은 사람들의 그럴 듯한 그림까지 만들어내고 진짜 그 사람의 목소리 같은 걸 사용하니까 사실은 사람들이 본능적으로 믿는 일이 더 벌어지는 거죠. 또 하나는 그런 사실적인 영상을 만드는 게 아주 쉬워지다 보니까 그 숫자는 계속 늘어날 수 밖에 없거든요.어떻게 보면 걷잡을 수 없을 정도의 문제가 될 수 있을 거라고 생각합니다.

AI 영상물에 비교적 익숙한 청년층은 어떨까요?
한 대학교를 찾았습니다.

“영상을 하나 보여드릴게요... 총 여섯 명의 인물이 나옵니다.”

미디어를 전공하는 학생들에게 딥페이크가 섞인 6명의 영상을 보여준 후, 가짜를 골라보도록 했습니다.

과연 이 여섯 명의 인물들 중 가짜는 모두 몇 명일까요?

<인터뷰> 이정수/ 딥브레인AI 이사
입 모양이 제대로 잘 맞는지. 말을 할 때 입만 움직이는 게 아니고 얼굴 전체의 근육을 움직이는 부분들, 머리를 움직이는 부분들, 어깨를 움직이는 부분들 그런 부분들을 좀 분별해서 보면...

모두 4명이 가짜입니다.

미디어학과 특성상 평소 AI나 딥페이크 콘텐츠를 접할 경험이 많다보니 딥페이크 구별법을 제법 잘 알고 있다는 학생들은 몇 명이나 정답을 맞췄을까요?

<인터뷰> 대학생
얼굴 광이 달라요. 광이 약간 AI는 매끈매끈한데 3, 5번은 광이 입체적으로 있는 것 같아요.

<인터뷰> 대학생
1번, 6번은 동공이 안 움직여서 확실하게 가상인간이라는 생각이 있었는데 2번, 4번은 실제로 그 시선을 아예 보정하면 나올 수도 있는 영상인 것 같아서 가상인간이라고 생각을 못했어요.

서른 아홉명의 실험 참가자들 중 정답을 모두 맞춘 학생은 단 3명뿐이었습니다.

1번과 6번의 경우 30명이 넘는 학생들이 가짜로 지목했지만, 2번과 4번의 경우는 각각 13명의 학생들만 가짜임을 알아맞췄습니다.

3명 중 2명은 딥페이크를 진짜라고 생각한 겁니다.

실험에 참가한 학생들은 일상 생활 속에서 이런 영상물에 노출된다면 더 쉽게 속을 수밖에 없을 것 같다고 말합니다.

<인터뷰> 대학생
(유튜브나 다른 미디어에서 얼굴이 바뀐 사람이 나오면 구분할 수 있으실 것 같으세요?)
구분을 못 할 것 같아요. 의식하지 않고 유튜브처럼 보게 되면 아마 찾기 어려울 것 같습니다.


관련 방송: 2024년 4월 2일(화) 밤 10시 5분 KBS 1TV/ 유튜브

'시사기획 창' 홈페이지 https://news.kbs.co.kr/vod/program.do?bcd=0039&ref=pSiteMap
유튜브 https://www.youtube.com/channel/UCEb31RoX5RnfYENmnyokN8A
페이스북 https://www.facebook.com/changkbs
WAVVE '시사기획 창' 검색