‘모호해진 진짜·가짜 경계’…규제 급물살

[앵커]

이처럼 인공지능이 더 정교해지면서 이제는 가짜와 진짜 현실을 구분하는 게 거의 불가능한 수준까지 이르렀는데요.

경제나 안보에 영향을 줄 만큼 실질적인 위협이 되기도 하면서, 규제 논의도 급물살을 타고 있습니다.

이어서 조정인 기잡니다.

[리포트]

치매로 은퇴한 할리우드 배우 브루스 윌리스가 출연한 광고입니다.

투병 사실이 무색하게 건강해 보이지만, 사실은 인공지능 기술로 합성한 '딥페이크'입니다.

이처럼 'AI 배우'를 마음대로 사용하려는 움직임이 확산되면서 최근 할리우드에선 배우들이 파업에 나서기도 했습니다.

푸틴 러시아 대통령의 계엄령 선포 영상, 미 국방성 청사에 연기가 피어오르는 장면 역시 딥페이크로 만든 가짜 이미지였습니다.

가짜임이 드러난 건 국제 금융시장이 출렁이는 등 여파가 생긴 뒤였습니다.

성인 영상물이나 금융사기 등 범죄에도 악용되고 있지만 '가짜'를 걸러내는 건 쉽지 않습니다.

같은 배우의 두 영상.

탐지 기술로 금세 딥페이크를 가려냅니다.

하지만 인공지능이 1차로 제작한 콘텐츠를 사람이 다시 작업하거나, 새로운 기술이 적용되면 정확도는 장담할 수 없습니다.

[홍순원/AI 탐지기술 기업 연구원 : "최신 생성 기술로 나오면 기존의 탐지모델은 무력해지는 경향이 있는데 기술들이 매일같이 나오고 있는 상황인데 탐지 기술은 생성기술에 비하면 훨씬 적은…"]

AI에 대한 우려가 현실로 나타나면서, 미국 정부는 IT 기업에 스스로 안전조치를 마련하라고 요구했습니다.

유럽연합도 고위험 AI 기술을 범주화하고 이를 통제하는 이른바 'AI 법안'을 마련해 국가 간 협상에 나섰습니다.

[권태경/연세대 인공지능대학원 교수 : "딥페이크가 미국 내의 문제가 아니고 굉장히 글로벌한 문제이기 때문에 국제협력이 필요한 분야라는 것을 계속 강조하고 있고요."]

우리나라도 AI 규제 방향성과 원칙을 담은 인공지능 법안 여러 건이 국회에 계류 중이지만, 아직 이렇다 할 사회적 논의는 시작되지 못한 상황입니다.

KBS 뉴스 조정인입니다.

촬영기자:이경구 이상구/영상편집:한찬의/화면출처:유튜브 moneycontrol