[ET] “경찰에 끌려간 트럼프” “머스크는 열애 중”…이 사진들의 정체는?

[앵커]

미국 대선 출마를 선언한 트럼프 전 대통령이요.

'성추문 입막음 의혹' 등 여러 혐의로 조사를 받고 있는 가운데 이번엔 인공지능 가짜 뉴스의 주인공이 되면서 미국 사회를 떠들썩하게 하고 있습니다.

<글로벌 ET> 오늘은 AI 가짜 뉴스의 실태와 각국의 규제 움직임 살펴봅니다.

홍석우 기자, 이 사진이 경찰에 연행되는 트럼프 전 대통령의 모습인가요?

[기자]

네, 경찰에 붙잡히고 끌려가는 모습이죠.

그런데 가짭니다.

인공지능 AI가 만든 합성 사진인데, 제법 그럴듯하죠?

안 그래도 최근 트럼프 전 대통령이 돈을 주고 성 추문을 막으려 했다는 혐의 등으로 체포될 수도 있다는 보도가 잇따르는 상황이어서요.

실제로 경찰에 연행된 게 아니냐 생각하는 사람들도 적지 않았습니다.

참고로 트럼프 전 대통령, 기밀정보 유출, 성관계 폭로 배우 입막음 시도 등 여러 혐의로 기소돼 재판을 받게 됐는데요.

역대 미국 대통령 가운데 처음입니다.

[앵커]

이젠 진짜 가짜를 식별하기 거의 불가능할 정도로 인공지능 기술이 발전했단 거겠죠.

[기자]

최근 화제를 모은 이 사진 한 번 보실까요?

[앵커]

프란치스코 교황이네요.

[기자]

네, 그런데 평소 우리가 알던 사제복 대신 흰색 패딩을 입고 있죠.

처음 보는 교황 옷차림에 온라인 커뮤니티에선 "이 패딩 브랜드가 어디 거냐", "힙한 교황님 처음이다" 같은 폭발적인 반응이 쏟아졌는데요.

이 사진 역시 AI가 만든 '가짜'임이 밝혀졌습니다.

체포되는 트럼프도 패딩 입은 교황도, 모두 지난해 출시한 '미드저니'라는 프로그램으로 만든 사진인데요.

쉽게 말씀드리면 '그림'을 그려주는 AI라고 이해하시면 됩니다.

사진 몇 장, 키워드 몇 개만 입력하면 누구나 손쉽게 원하는 이미지를 만들 수 있고, 이미지 자체도 고화질이다 보니 점점 더 가짜임을 구별하기 어렵게 되고 있습니다.

지난해 미국에서 열린 한 미술대회에서 이 AI 프로그램으로 만든 그림이 사람을 제치고 '1등'을 거머쥐기도 했습니다.

[앵커]

그럼 아이디어만 있으면 특별한 기술이 없어도 저런 그림을 만들 수 있다고요?

[기자]

네, 미드저니는 지금 전 세계적으로 화제인 대화형 인공지능, 챗GPT와 더불어 AI 화제를 불러일으키고 있습니다.

챗GPT는 최근 더 똑똑해져서 GPT-4(포)가 되기도 했는데요.

이 두 가지를 함께 활용하면 어떤 그림이 나올까요.

온라인에선 미드저니와 챗GPT를 활용해 그림 그리는 방법을 쉽게 찾아볼 수 있는데요.

우선 챗GPT에 필요한 명령어를 넣은 뒤 검색어에 '달'이라고 입력합니다.

챗GPT는 곧바로 '달'에 관한 이미지를 문장으로 보여주는데요.

이걸 그대로 복사해서 미드저니에 붙여넣으면 끝납니다.

불과 몇 초 만에 그림이 완성됐는데요.

단순히 '달'을 그려 달라고 했을 때보다 훨씬 더 정교한 이미지로 구현해냅니다.

[앵커]

놀라운 기술이군요.

그런데 이렇게 유명인들의 상황을 꾸며낸다면 부작용도 만만치 않을 것 같습니다.

[기자]

네, 이렇게 만든 이미지를 활용해 특정인의 얼굴에 합성하면 어떻게 되느냐, 경찰에 끌려가는 트럼프, 롱패딩 입은 교황처럼 가짜 사진이나 영상물, 이른바 '딥페이크'가 되는 겁니다.

테슬라 최고경영자 일론 머스크도 이 '딥페이크'에 당했습니다.

머스크가 아내가 아닌 다른 3명의 여성과 손을 잡고 있는 합성 사진이 돌면서 급기야 본인이 직접 해명에 나섰고요.

또, 영화 해리포터 시리즈에 출연했던 배우 '엠마 왓슨'은 '딥페이크' 음란물 광고에 악용되기도 했습니다.

문제는 갈수록 진짜와 가짜를 구별해내기가 쉽지 않다는 겁니다.

사회에 미칠 부작용도 예상됩니다.

트럼프의 딥페이크 사진이 올라온 이후 이를 믿은 트럼프 지지자들이 또 2021년 때처럼 시위나 폭동을 일으키는 거 아니냐는 우려가 나오기도 했습니다.

블룸버그는 딥페이크가 금융 시장에 미칠 영향에 주목하기도 했습니다.

전 세계 금융 시장을 움직이는 파월 미국 연준 의장의 얼굴과 목소리가 딥페이크에 악용된다면, 뱅크런 즉 대규모 인출 사태 등 대혼란에 빠질 수 있다고 경고했습니다.

[앵커]

일반인들도 이런 딥페이크에 피해를 당할 수도 있을 것 같네요?

[기자]

네, 평범한 일반인들의 얼굴도 바꿔치기할 수 있게 되면서 사회 문제가 되고 있습니다.

대부분은 불법적인 곳에 쓰이고 있는데요.

이른바 '지인 능욕'이 대표적입니다.

또래 친구의 개인 정보를 온라인에 일부러 퍼뜨리고 괴롭힘 등을 유도하는 범죄인데, 여기에도 딥페이크가 악용되고 있습니다.

실제로 지난해 방송통신위원회가 능욕 성범죄 유형 중 딥페이크 관련 게시물 4천여 건을 조치해, 삭제했는데요.

5백여 건이었던 2020년 하반기와 비교하면 8배 가까이 급증한 겁니다.

지난달엔 14살 중학생이 일면식도 없는 같은 학원 여학생의 딥페이크 사진을 만든 뒤 SNS에 유포한 혐의로 법정 구속되기도 했습니다.

인터넷 플랫폼들이 악의적으로 조작된 딥페이크 콘텐츠를 금지하고 있지만요.

규제의 사각지대를 파고드는 데다, AI 기술의 발전 속도를 따라가지 못하고 있다는 지적이 끊이지 않고 있습니다.

[앵커]

관련해 며칠 전에 테슬라의 일론 머스크와 애플 공동창업자 스티브 워즈니악 등 과학 기술계 거물들이 AI 개발 일시 중단 촉구 서한을 냈단 뉴스가 나왔었잖아요.

그런데 이 중 시진핑 중국 국가수석 등의 서명 일부가 가짜인 걸로 드러나 또 논란이더라고요.

잘 들었습니다.