“15초 만에 음성 그대로 모방”…AI 신기술에 우려도

입력 2024.03.30 (21:20) 수정 2024.03.30 (22:21)

읽어주기 기능은 크롬기반의
브라우저에서만 사용하실 수 있습니다.

[앵커]

AI 기술이 무섭도록 빠르게 발전하고 있습니다.

단 15초 만에 사람의 목소리를 그대로 학습해 똑같은 음성을 생성하는 인공지능이 나왔는데요.

다방면으로 활용될 수 있지만, 나쁜 의도로 쓰일 거란 우려도 커지고 있습니다.

워싱턴 이정민 특파원입니다.

[리포트]

챗GPT의 개발사 오픈AI가 내놓은 새 기술입니다.

사람의 음성을 짧게 들려주자 인공지능이 목소리를 그대로 모방해 전혀 다른 내용의 새로운 음성을 생성합니다.

[사람 음성 : "힘은 물체를 움직이고, 멈추고, 방향을 바꿀 수 있게 밀거나 당기는 것입니다."]

[AI 모방 음성 : "이 이야기는 수천 년 동안 전해지고 또 전해져 왔습니다."]

똑같은 모방 음성을 만드는 데 필요한 목소리 샘플은 불과 15초 분량.

외국어로 바꿀 수도 있습니다.

[사람 음성/영어 : "진정한 친구는 기쁠 때나 슬플 때나 곁에서 기쁨을 나누고 슬픔을 덜어줍니다."]

[AI 모방 음성/중국어 : "진정한 친구는 기쁠 때나 슬플 때나 곁에서 기쁨을 나누고 슬픔을 덜어줍니다."]

오픈 AI는 2년 전 처음 개발한 이 기능, '보이스 엔진'을 공개하며, 교육용 음성 해설 콘텐츠나 동영상 서비스를 여러 언어로 배포하는데 도움을 줄 거라고 밝혔습니다.

그러면서도 오남용 가능성 때문에 지금은 이 기능을 출시하지 않기로 했다고 했습니다.

특히 선거에서 악용될 가능성이 높다는 겁니다.

미국에선 올해 1월 바이든 대통령 목소리를 흉내 낸 가짜 전화가 돌아 빅테크 기업들이 부랴부랴 공동 대응에 나선 바 있습니다.

[바이든 미국 대통령 사칭 가짜 음성 : "11월 대선을 위해 당신의 표를 아껴 두는 것이 중요합니다."]

오픈 AI는 은행 계좌나 민감한 정보의 보안 조치로 음성 인증 방식을 이용하는 건 폐지돼야 한다고도 권했습니다.

워싱턴에서 KBS 뉴스 이정민입니다.

영상편집:황보현평/그래픽:김석훈/자료조사:오지민

■ 제보하기
▷ 카카오톡 : 'KBS제보' 검색, 채널 추가
▷ 전화 : 02-781-1234, 4444
▷ 이메일 : kbs1234@kbs.co.kr
▷ 유튜브, 네이버, 카카오에서도 KBS뉴스를 구독해주세요!


  • “15초 만에 음성 그대로 모방”…AI 신기술에 우려도
    • 입력 2024-03-30 21:20:52
    • 수정2024-03-30 22:21:16
    뉴스 9
[앵커]

AI 기술이 무섭도록 빠르게 발전하고 있습니다.

단 15초 만에 사람의 목소리를 그대로 학습해 똑같은 음성을 생성하는 인공지능이 나왔는데요.

다방면으로 활용될 수 있지만, 나쁜 의도로 쓰일 거란 우려도 커지고 있습니다.

워싱턴 이정민 특파원입니다.

[리포트]

챗GPT의 개발사 오픈AI가 내놓은 새 기술입니다.

사람의 음성을 짧게 들려주자 인공지능이 목소리를 그대로 모방해 전혀 다른 내용의 새로운 음성을 생성합니다.

[사람 음성 : "힘은 물체를 움직이고, 멈추고, 방향을 바꿀 수 있게 밀거나 당기는 것입니다."]

[AI 모방 음성 : "이 이야기는 수천 년 동안 전해지고 또 전해져 왔습니다."]

똑같은 모방 음성을 만드는 데 필요한 목소리 샘플은 불과 15초 분량.

외국어로 바꿀 수도 있습니다.

[사람 음성/영어 : "진정한 친구는 기쁠 때나 슬플 때나 곁에서 기쁨을 나누고 슬픔을 덜어줍니다."]

[AI 모방 음성/중국어 : "진정한 친구는 기쁠 때나 슬플 때나 곁에서 기쁨을 나누고 슬픔을 덜어줍니다."]

오픈 AI는 2년 전 처음 개발한 이 기능, '보이스 엔진'을 공개하며, 교육용 음성 해설 콘텐츠나 동영상 서비스를 여러 언어로 배포하는데 도움을 줄 거라고 밝혔습니다.

그러면서도 오남용 가능성 때문에 지금은 이 기능을 출시하지 않기로 했다고 했습니다.

특히 선거에서 악용될 가능성이 높다는 겁니다.

미국에선 올해 1월 바이든 대통령 목소리를 흉내 낸 가짜 전화가 돌아 빅테크 기업들이 부랴부랴 공동 대응에 나선 바 있습니다.

[바이든 미국 대통령 사칭 가짜 음성 : "11월 대선을 위해 당신의 표를 아껴 두는 것이 중요합니다."]

오픈 AI는 은행 계좌나 민감한 정보의 보안 조치로 음성 인증 방식을 이용하는 건 폐지돼야 한다고도 권했습니다.

워싱턴에서 KBS 뉴스 이정민입니다.

영상편집:황보현평/그래픽:김석훈/자료조사:오지민

이 기사가 좋으셨다면

오늘의 핫 클릭

실시간 뜨거운 관심을 받고 있는 뉴스

이 기사에 대한 의견을 남겨주세요.

수신료 수신료