뛰는 AI 위 나는 AI…‘딥페이크’도 인공지능이 잡는다
입력 2024.03.23 (21:26)
수정 2024.03.25 (08:06)
읽어주기 기능은 크롬기반의
브라우저에서만 사용하실 수 있습니다.
[앵커]
인공지능.
AI를 활용해 진짜 같은 음성이나 영상을 만드는 기술을 딥 페이크 라고 하죠.
뛰는 딥 페이크 위에 나는 AI가 있습니다.
가짜 음성과 영상을 가려내는데 AI가 첨병 역할을 하고 있습니다.
단 몇분만에 가짜를 척척 찾아냅니다.
이 소식은 황정호 기자가 취재했습니다.
[리포트]
한 남성이 눈을 깜박이며, 발표하는 영상.
자연스러워보이지만, AI로 만든 '딥페이크' 영상입니다.
얼굴 부분이 합성됐다는 것을 인공지능이 5분 만에 찾아낸 겁니다.
[이정수/딥브레인AI 국내사업개발그룹 이사 : "구간별로 이게 진짜인지 가짜인지 구분이 가능하고 육안으로 구분하기는 어렵지만, 이런 딥러닝을 통해서 학습하다 보면 그 패턴들이 보이는 거고."]
이 대학 연구팀은 특정 소리가 조작됐는지 판별하는 기술을 개발하고 있습니다.
바이든 미국 대통령을 사칭한 딥페이크 음성.
[바이든/미 대통령/사칭 가짜 음성 : "말도 안 되는 소리입니다. 여러분의 투표는 이번 화요일이 아니라, 11월에 변화를 만들 수 있어요."]
1분도 안돼 '가짜'로 판명납니다.
AI에게 소리의 특징과 패턴 등을 학습시켜 가려내게 한 겁니다.
["밤양갱~"]
한 가수의 노래를 AI가 여러 가수 버전으로 만든 영상이 유행할 정도로, 딥페이크는 일상에 깊이 파고 들고 있습니다.
이 곳에서 제 인공지능 음성이 하루 만에 완성됐는데요.
한 번 들어보겠습니다.
["인공지능이 제 목소리와 비슷하게 문장을 읽습니다."]
이 때문에 딥페이크 탐지 기술 개발과 함께 선제적 고지 등 관련 규정을 마련해야 한다는 지적이 나오고 있습니다.
[정수환/숭실대학교 AI보안연구센터 센터장 : "동의 받지 않는 인물 사진을 넣었을 때 생성을 못 하게 한다든가 생성을 억제하는 그런 가이드 같은 것을 줄 수가 있습니다."]
오픈AI와 구글 등 빅테크들은 이미 딥페이크의 식별과 탐지를 위한 글로벌 표준 마련에 나섰습니다.
KBS 뉴스 황정호입니다.
촬영기자:이재섭 송혜성/영상편집:박은주/그래픽:박미주
인공지능.
AI를 활용해 진짜 같은 음성이나 영상을 만드는 기술을 딥 페이크 라고 하죠.
뛰는 딥 페이크 위에 나는 AI가 있습니다.
가짜 음성과 영상을 가려내는데 AI가 첨병 역할을 하고 있습니다.
단 몇분만에 가짜를 척척 찾아냅니다.
이 소식은 황정호 기자가 취재했습니다.
[리포트]
한 남성이 눈을 깜박이며, 발표하는 영상.
자연스러워보이지만, AI로 만든 '딥페이크' 영상입니다.
얼굴 부분이 합성됐다는 것을 인공지능이 5분 만에 찾아낸 겁니다.
[이정수/딥브레인AI 국내사업개발그룹 이사 : "구간별로 이게 진짜인지 가짜인지 구분이 가능하고 육안으로 구분하기는 어렵지만, 이런 딥러닝을 통해서 학습하다 보면 그 패턴들이 보이는 거고."]
이 대학 연구팀은 특정 소리가 조작됐는지 판별하는 기술을 개발하고 있습니다.
바이든 미국 대통령을 사칭한 딥페이크 음성.
[바이든/미 대통령/사칭 가짜 음성 : "말도 안 되는 소리입니다. 여러분의 투표는 이번 화요일이 아니라, 11월에 변화를 만들 수 있어요."]
1분도 안돼 '가짜'로 판명납니다.
AI에게 소리의 특징과 패턴 등을 학습시켜 가려내게 한 겁니다.
["밤양갱~"]
한 가수의 노래를 AI가 여러 가수 버전으로 만든 영상이 유행할 정도로, 딥페이크는 일상에 깊이 파고 들고 있습니다.
이 곳에서 제 인공지능 음성이 하루 만에 완성됐는데요.
한 번 들어보겠습니다.
["인공지능이 제 목소리와 비슷하게 문장을 읽습니다."]
이 때문에 딥페이크 탐지 기술 개발과 함께 선제적 고지 등 관련 규정을 마련해야 한다는 지적이 나오고 있습니다.
[정수환/숭실대학교 AI보안연구센터 센터장 : "동의 받지 않는 인물 사진을 넣었을 때 생성을 못 하게 한다든가 생성을 억제하는 그런 가이드 같은 것을 줄 수가 있습니다."]
오픈AI와 구글 등 빅테크들은 이미 딥페이크의 식별과 탐지를 위한 글로벌 표준 마련에 나섰습니다.
KBS 뉴스 황정호입니다.
촬영기자:이재섭 송혜성/영상편집:박은주/그래픽:박미주
■ 제보하기
▷ 카카오톡 : 'KBS제보' 검색, 채널 추가
▷ 전화 : 02-781-1234, 4444
▷ 이메일 : kbs1234@kbs.co.kr
▷ 유튜브, 네이버, 카카오에서도 KBS뉴스를 구독해주세요!
- 뛰는 AI 위 나는 AI…‘딥페이크’도 인공지능이 잡는다
-
- 입력 2024-03-23 21:26:08
- 수정2024-03-25 08:06:09
[앵커]
인공지능.
AI를 활용해 진짜 같은 음성이나 영상을 만드는 기술을 딥 페이크 라고 하죠.
뛰는 딥 페이크 위에 나는 AI가 있습니다.
가짜 음성과 영상을 가려내는데 AI가 첨병 역할을 하고 있습니다.
단 몇분만에 가짜를 척척 찾아냅니다.
이 소식은 황정호 기자가 취재했습니다.
[리포트]
한 남성이 눈을 깜박이며, 발표하는 영상.
자연스러워보이지만, AI로 만든 '딥페이크' 영상입니다.
얼굴 부분이 합성됐다는 것을 인공지능이 5분 만에 찾아낸 겁니다.
[이정수/딥브레인AI 국내사업개발그룹 이사 : "구간별로 이게 진짜인지 가짜인지 구분이 가능하고 육안으로 구분하기는 어렵지만, 이런 딥러닝을 통해서 학습하다 보면 그 패턴들이 보이는 거고."]
이 대학 연구팀은 특정 소리가 조작됐는지 판별하는 기술을 개발하고 있습니다.
바이든 미국 대통령을 사칭한 딥페이크 음성.
[바이든/미 대통령/사칭 가짜 음성 : "말도 안 되는 소리입니다. 여러분의 투표는 이번 화요일이 아니라, 11월에 변화를 만들 수 있어요."]
1분도 안돼 '가짜'로 판명납니다.
AI에게 소리의 특징과 패턴 등을 학습시켜 가려내게 한 겁니다.
["밤양갱~"]
한 가수의 노래를 AI가 여러 가수 버전으로 만든 영상이 유행할 정도로, 딥페이크는 일상에 깊이 파고 들고 있습니다.
이 곳에서 제 인공지능 음성이 하루 만에 완성됐는데요.
한 번 들어보겠습니다.
["인공지능이 제 목소리와 비슷하게 문장을 읽습니다."]
이 때문에 딥페이크 탐지 기술 개발과 함께 선제적 고지 등 관련 규정을 마련해야 한다는 지적이 나오고 있습니다.
[정수환/숭실대학교 AI보안연구센터 센터장 : "동의 받지 않는 인물 사진을 넣었을 때 생성을 못 하게 한다든가 생성을 억제하는 그런 가이드 같은 것을 줄 수가 있습니다."]
오픈AI와 구글 등 빅테크들은 이미 딥페이크의 식별과 탐지를 위한 글로벌 표준 마련에 나섰습니다.
KBS 뉴스 황정호입니다.
촬영기자:이재섭 송혜성/영상편집:박은주/그래픽:박미주
인공지능.
AI를 활용해 진짜 같은 음성이나 영상을 만드는 기술을 딥 페이크 라고 하죠.
뛰는 딥 페이크 위에 나는 AI가 있습니다.
가짜 음성과 영상을 가려내는데 AI가 첨병 역할을 하고 있습니다.
단 몇분만에 가짜를 척척 찾아냅니다.
이 소식은 황정호 기자가 취재했습니다.
[리포트]
한 남성이 눈을 깜박이며, 발표하는 영상.
자연스러워보이지만, AI로 만든 '딥페이크' 영상입니다.
얼굴 부분이 합성됐다는 것을 인공지능이 5분 만에 찾아낸 겁니다.
[이정수/딥브레인AI 국내사업개발그룹 이사 : "구간별로 이게 진짜인지 가짜인지 구분이 가능하고 육안으로 구분하기는 어렵지만, 이런 딥러닝을 통해서 학습하다 보면 그 패턴들이 보이는 거고."]
이 대학 연구팀은 특정 소리가 조작됐는지 판별하는 기술을 개발하고 있습니다.
바이든 미국 대통령을 사칭한 딥페이크 음성.
[바이든/미 대통령/사칭 가짜 음성 : "말도 안 되는 소리입니다. 여러분의 투표는 이번 화요일이 아니라, 11월에 변화를 만들 수 있어요."]
1분도 안돼 '가짜'로 판명납니다.
AI에게 소리의 특징과 패턴 등을 학습시켜 가려내게 한 겁니다.
["밤양갱~"]
한 가수의 노래를 AI가 여러 가수 버전으로 만든 영상이 유행할 정도로, 딥페이크는 일상에 깊이 파고 들고 있습니다.
이 곳에서 제 인공지능 음성이 하루 만에 완성됐는데요.
한 번 들어보겠습니다.
["인공지능이 제 목소리와 비슷하게 문장을 읽습니다."]
이 때문에 딥페이크 탐지 기술 개발과 함께 선제적 고지 등 관련 규정을 마련해야 한다는 지적이 나오고 있습니다.
[정수환/숭실대학교 AI보안연구센터 센터장 : "동의 받지 않는 인물 사진을 넣었을 때 생성을 못 하게 한다든가 생성을 억제하는 그런 가이드 같은 것을 줄 수가 있습니다."]
오픈AI와 구글 등 빅테크들은 이미 딥페이크의 식별과 탐지를 위한 글로벌 표준 마련에 나섰습니다.
KBS 뉴스 황정호입니다.
촬영기자:이재섭 송혜성/영상편집:박은주/그래픽:박미주
이 기사가 좋으셨다면
-
좋아요
0
-
응원해요
0
-
후속 원해요
0
이 기사에 대한 의견을 남겨주세요.