[뉴스in뉴스] 스위프트마저…‘딥페이크’ 막을 수 있나

[앵커]

"AI가 테일러 스위프트마저 가짜의 희생자로 만들었다" 최근 미국 뉴욕타임스 기사인데요. 인공지능, AI 기술 발달에 따른 부작용이 커지면서 규제가 필요하다는 목소리도 높아지고 있습니다. 진짜 같은 가짜, 딥페이크, 어떻게 가려내고 규제해야 할까요. 유네스코 세계과학기술윤리위원회 부위원장인 이상욱 한양대 교수와 알아보겠습니다. 먼저 테일러 스위프트 하면은 현존하는 세계 최고의 아티스트, 이렇게 봐도 무방할텐데, 이번에 딥페이크의 희생자가 됐거든요. 어떤 내용일까요?

[답변]

본인이 찍지 않은 이미지, 선정적인 이미지가 퍼지면서 어떻게 보면 평상시에 스위프트가 가지고 있었던 이미지를 훼손하는 그런 사건이 벌어졌고 여기에 팬들이 엄청나게 분노를 한 거죠.

[앵커]

이게 누구라도 또 피해자가 될 수 있겠다 라는 생각이 들거든요.

[답변]

사실은 이미 이런 종류의 피해자가 엄청 많은데요. 근데 그분들은 불행히도 스위프트만큼 영향력이 있는 분들이 아니어서 이게 묻혀있던 거죠. 실제로 페이크(가짜) 동영상의 피해자가 압도적으로 여성입니다. 그리고 음란, 외설적인 내용들이 많고요. 그래서 이 부분에 대해서는 사실은 지금이라도, 이번을 계기로 대책들이 마련될 필요가 있습니다.

[앵커]

이게 그렇다면은 어떻게 만들어지는 건가요?

[답변]

일단 이게 딥페이크(Deepfake)라고 하잖아요? 딥(Deep)이라는 거는 신경망, 인공지능 중에서 '뉴런 네트워크'라고 하는 어떤 특별한 기술적 장치를 말하거든요. 그걸 사용해서 페이크(Fake), 가짜 동영상을 만들면, 기존에도 CG 같은 거 있잖아요? 그거보다 훨씬 빠르고 훨씬 실감나게 만들 수 있습니다. 그래서 이 딥페이크가 위험한 겁니다.

[앵커]

사진 몇 장만 있어도 딥페이크를 만들 수 있다 이런 건가요?

[답변]

그렇죠. 그러니까 원래 원본 동영상이 있고, 거기다가 자기가 입히고 싶은 이미지를 집어넣으면 실제로 그 사람이 그런 행위들을 하는 것처럼 보이게 만들 수 있고요. 아예 그 사람의 행동들에 대해서 충분히 많은 자료들을 수집할 수 있다면 그걸 가지고 전혀 새롭게, 완전히 새롭게 만들 수도 있습니다.

[앵커]

이번에 스위프트의 딥페이크 사진을 SNS에서 빨리 삭제를 못 했다. 그래서 팬들도 분노했다, 이렇게 얘기를 하는데, 이게 가려내는 게 어렵습니까?

[답변]

일단 기술적인 방법들이 있긴 있습니다. 그러니까 인공지능이 알고리즘으로 만든 동영상들이 가진 특징들에 주목해서 판단을 해줘요. 이건 한 90% 페이크 같다, 아니면 이거는 페이크일 가능성이 거의 없다. 근데 그게 완전하지가 않고요. 그 다음에 처음에 인공지능으로 만든 동영상이나 아예 워터마크를 넣는 장치를 하는 경우도 있는데 그것도 역시 지울 수가 있고요. 그래서 기술적 대안만으로는 좀 부족하고 결국은 사람이 최종적으로 이게 페이크인지 아닌지를 확인하고 검증해서 판단해야 되는데 그런 부분들이 좀 부족했던 것 같습니다.

[앵커]

지금도 나가고 있는 게 유명인의 딥페이크, 가짜 영상인 거죠. (네) 이게 여러 영역에서 만들어질 수 있을 것 같다라는 생각이 들거든요. 특히 정치 영역에서도 이 딥페이크 때문에 좀 시끌벅적했던 기억이 나는데, 영상 하나 보고 또 이야기 이어가 보죠.

[바이든 미국 대통령 사칭 음성 : "11월 대선을 위해 당신의 표를 아껴두는 것이 중요합니다. 화요일에 투표하는 것은 공화당이 도널드 트럼프를 다시 선출할 수 있도록 돕는 것입니다."]

[힐러리 클린턴 전 미국 국무장관 사칭 영상 : "제가 이런 말을 하면 아마 사람들이 놀라겠지만 저는 론 디샌티스 주지사(공화당 전 대선 후보)를 좋아합니다."]

지금 미국의 바이든 대통령 녹취, 그리고 힐러리 클린턴 전 미국 국무 장관의 사칭 영상까지 봤는데 이게 가짜라는 거잖아요?

[답변]

예, 다 가짜입니다.

[앵커]

이런 것들은 일단 어떻게 만들어지며 이것도 저희가 걸러낼 수 있을까요?

[답변]

일단 만드는 방법은, 바이든과 클린턴 같은 유명인들은 일반적으로 돌아다니는 음성이나 이미지 동영상 파일이 엄청 많잖아요? 그걸 인공지능한테 학습시키면 아까 말씀드렸지만 패턴들을 찾아서 클린턴이나 바이든이 했을 법한 음성이나 아니면 이미지로 만들어 낼 수 있고, 거기다가 자기가 원하는 메시지를 집어넣으면 그 영상이 되게 되는 거고요. 사실은 이게 굉장히 위험한 이유가 서로 엄청나게 싫어하는 집단으로 양분되어 있는 정치적 지형도 내에서는 사실은 자기가 믿고 싶은 걸 믿는 경우가 되게 많잖아요? 그러니까 상대방을 나쁘게 묘사하고 자기 편을 좋게 묘사하는 모든 것들은 어차피 굉장히 잘 들어오는데 귀에 쏙쏙, 이제 마구 만들어 낼 수 있는 거예요. 그렇게 되면 기존의 이런 정치적인 분열이 훨씬 더 심화되고, 민주주의가 중요한 게 사람들이 정확한 정보에 근거해서 자신의 판단들을 해내야 되는데 그게 점점 더 어려워지는 그런 상황이 되는 겁니다.

[앵커]

일단 우리나라에서는 4월 총선을 앞두고 지난 월요일에 딥페이크 선거 운동이 금지가 됐는데, 지난 대선 때는 가능했거든요. 이게 바뀐 이유가 있나요?

[답변]

이제 위험성이라든가 악용 가능성을 굉장히 크게 보신 거죠. 그런데 저는 개인적으로는 사실은 그 딥페이크 동영상이 정치 풍자에도 굉장히 생산적으로 사용될 수 있거든요. 중요한 건 사람들이 거기다가 함부로 막 사실이 아닌 것들을 집어 넣어가지고 얘기를 할 때, 그것들을 가려낼 수 있기만 하면 되는데, 거기다가 '정치 풍자로 사용된 딥페이크는 가짜다, 페이크다' 하는 표시를 해 주면 될 텐데 이제 그런 거보다는 좀 안전한 선택을 한 것 같습니다.

[앵커]

딥페이크를 다 규제하는 건 사실 어려울 것 같기도 하고요. 이게 맞냐, 뭐 표현의 자유 측면에서 맞냐 하는 이런 논란도 있을 것 같은데 그렇다면 미국은 어떻게 하고 있습니까?

[답변]

미국은 전통적으로 기술 혁신을 굉장히 중시하고 정부가 나서서 어떤 기술의 부작용들에 대해서 아주 명시적으로 드러나지 않으면 규제를 안 하는 그런 측면이 강했는데, 이번에 딥페이크 관련해서는 대선도 있고 그래 가지고 굉장히 민감하게 반응을 하고 있습니다. 그래서 각 주 별로 이걸 규제하는 법안들을 만들고 있는 주들이 꽤 있고, 연방 정부 차원에서도 이걸(규제를) 만들어야 된다는 목소리를 백악관에서도 냈고요. 그래서 적어도 아까 말씀드린 정치적 지형도를 뒤흔들 수 있는 사안에 대해서는 규제가 필요하다는 데에 산업계나 정부 모두 의견이 일치된 것으로 보입니다.

[앵커]

그렇다면 지금 중국은 어떻게 하고 있나요? 중국은 왠지 규제를 하고 있을 것 같긴 한데요.

[답변]

예, 중국도 사실은 딥페이크까지 포함해서 사실은 언론의 자유가 그렇게 완전히 보장돼 있는 나라라고 보기는 좀 어려운 측면이 있어서 딥페이크에 대해서는 굉장히 엄격하게 규제하고 있고요. 그리고 그 과정에서 사실은 사람들이 의도적이지 않았던 이유때문에, 만들 수 있는 가능성까지 원천적으로 차단하는 노력도 하고 있습니다.

[앵커]

그렇다면 사실 이게 중요한 것 같은데요. 현재 이 시점에서 기술 발전에 따른 부작용을 줄일 수 있는 최선의 방법은 뭐라고 생각하십니까?

[답변]

딥페이크까지 포함해서 첨단 기술은 당연히 엄청난 잠재력과 인류 복지에 기여할 가능성을 가지고 있거든요. 그러니까 그 잠재력을 바람직한 방향으로 실현할 수 있도록 사회가 좀 더 거버넌스나 그걸 관리하는 데에 관심을 기울여야 된다...예를 들어서 딥페이크 같은 경우에는 이거를 어떤 경우에 어떤 방식으로 검증하고 그 부작용들을 줄이기 위해서 개인 수준, 아니면 SNS, 포털, 그 다음에 정부 수준에서 어떤 노력들을 해야 되는지를 사실은 꼼꼼히 따져보고 그 부작용들을 이렇게 줄이려고 노력하면서 괜히 그 기술의 잠재력까지 잃지 않도록 상당히 균형 잡힌 시각에서 접근할 필요가 있습니다.