AI가 만든 가짜사진 ‘AI가 잡는다’…국내 첫 개발

지난 9월 미국 비영리단체 리프리젠트어스(RepresentUs) 유튜브 채널에 등장한 북한 김정은 국무위원장의 모습입니다. 김 위원장이 영어로 "민주주의는 취약하다. 선거가 실패하면 민주주의는 사라질 것"이라며 미국 대선 투표를 독려하는 말을 합니다.

높은 조회 수를 기록한 이 영상에 등장하는 김 위원장의 얼굴과 말, 모두 가짜입니다. 리프리젠트어스는 이 영상을 딥페이크(Deepfake) 기술로 만들었다고 했습니다.

딥페이크는 인공지능(AI)을 활용해 인물의 얼굴 사진이나 영상 등 디지털 자료를 합성하는 걸 말합니다. 과거에도 인물 사진 등을 잘라 붙여 합성할 수가 있었지만, 가짜임이 쉽게 구분될 정도로 조악한 게 대부분이었습니다. 하지만 딥페이크 기술은 인공지능이 인물의 특징 등을 학습해 자연스러운 합성 결과물을 만들어냅니다.

■교묘해진 '딥페이크', 불법 음란물 등에 악용

문제는 이런 딥페이크 기술이 가짜뉴스나 불법 음란물 등에 악용되고 있다는 겁니다. 음란물에 유명 연예인의 얼굴을 합성하는 경우 등이 대표적입니다. 성착취 영상을 제작 유포해 사회적으로 큰 물의를 일으킨 박사방 사건에서도 딥페이크가 등장했습니다. 지난해 네덜란드 보안회사 '딥트레이스'는 딥페이크를 이용한 얼굴 합성 피해자 중 25%는 케이팝 여자 가수라는 연구 결과를 내놓기도 했습니다.

딥페이크를 악용한 사례가 사회 문제로 대두되면서 수사기관이나 정보통신업계 등에선 디지털 자료의 진위를 구분하는 기술에 주목해왔습니다.

하지만 다양한 방법으로 변형된 사진이나 영상을 구분하는 기술은 지금까지 한계가 있었습니다. 기존의 디지털 사진 포렌식 기술은 정확도가 떨어졌고, 전문가들이 일일이 사진을 분석해 진위를 판단했기 때문입니다.

특히 기존 디지털 사진 포렌식 기술은 사진을 변형한 방법이 다양하거나 변형 방법을 미리 알지 못하면 정확도가 높지 않았습니다.

■국내 최초 '사진 위·변조 탐지' 인공지능 SW 개발

이런 한계를 극복하기 위해 카이스트 전산학부 이흥규 교수 연구팀은 국내에서 최초, 세계에서 두 번째로 인공지능 기술로 디지털 사진의 위·변조 여부를 탐지하는 실용 소프트웨어 '카이캐치(KAICATCH)'를 개발했다고 밝혔습니다.

일반인들이 실제 온라인상에서 쓰는 사진 30여만 장을 수집해 인공지능이 사진의 특징을 학습하게 하고, 이를 토대로 위변조 여부를 판단하는 소프트웨어를 개발한 겁니다. 인공지능이 진짜처럼 정교하게 만든 사진을 놓고, 또 다른 인공지능이 위·변조 여부를 추적하는 셈인데요.

위 그림 오른쪽에 등장하는 여성 2명과 그 사이에 있는 남성 1명. 언뜻 봐선 자연스러운 사진처럼 보이지만 가운데 남성의 얼굴은 합성된 사진입니다.

연구팀이 개발한 소프트웨어를 적용하면 합성된 영역인 남성의 얼굴 부분은 녹색(좌측)으로 표시됩니다. 원본 사진에서 변형을 준 곳이라는 뜻입니다.

복사나 붙여넣기, 지우기 등 디지털 사진의 변형이 있으면 사진마다 가진 픽셀 단위 신호의 미세한 변화가 있는데, 이런 변화들을 분류해 위변조 여부를 찾아낸다는 게 연구팀 설명입니다.

이 교수는 "기존 기술로는 탐지 정확도가 5~10% 정도에 그쳤지만, 이번 기술을 적용하면 70~80%로 정확도가 높아지는 것"이라고 말했습니다. 특히, 어떤 방법으로 변형됐는지 미리 알지 못하는 상태에서도 다양한 변형 유형을 알아서 찾아내고, 다양한 압축 방식의 사진에 대해서도 탐지 정확도를 높였다는 게 특징이라고 강조했습니다.

연구팀은 1분당 디지털 사진 6장 이상 처리가 가능하다고 했습니다. 포털사이트 등에 올라온 사진의 위변조 여부를 파악하거나 방송사 등에 접수되는 제보 사진의 진위를 실시간 검증하는 데 활용이 가능하다는 설명입니다.

이 교수는 "향후 각종 사진 편집 도구들의 고급 기능에 대해서도 탐지 기능을 계속 추가하고, 영상 변형 탐지도 실용화 수준으로 발전시킬 계획"이라고 말했습니다.