AI ‘멋진 신세계’ 또는 ‘디스토피아’…“인간 멸종 초래할 수도”

[앵커]

인공지능, AI 산업을 누가 선점하느냐, 세계적인 화둡니다.

그 활용도가 가늠이 안 될 정도로 빠르게 확장되고 있기 때문인데요, 암 정복도 멀지 않았고, 정밀한 예측으로 기후변화 해결책도 제시할거란 기대감이 커지고 있습니다.

그럼, AI가 멋진 신세계만 선물해줄까요?

AI에게 인공지능이 인간에게 미칠 최악의 상황을 물었는데 그 답변이 섬뜩합니다.

인공지능 개발자들까지 AI가 인류의 멸종을 초래할 수 있다고 우려했는데요.

그 배경이 무엇인지, 김귀수 기자가 보도합니다.

[리포트]

["아기 상어 뚜뚜뚜루루~~~"]

조 바이든 미국 대통령이 부르는 아기상어 노래.

AI 딥페이크 기술로 만든 영상입니다.

트럼프 전 대통령이 체포되는 가짜 사진에 바이든 대통령이 투표 거부를 독려하는 조작 음성.

11월 대선을 앞둔 미국에선 AI를 이용한 '가짜뉴스'의 범람이 골칫거리로 떠올랐습니다.

[마티아스 하이더/허위정보 전문가 : "(특히 선거 기간 중) 민주적 절차를 훼손하고 더 많은 증오를 조장하려는 시도를 항상 볼 수 있습니다."]

딥페이크를 악용한 음란물과 개인정보 유출, 허위 정보 유포 등의 사례가 늘고 있는 가운데 섬뜩한 경고가 이어지고 있습니다.

챗GPT개발사 오픈AI와 구글 딥마인드의 전현직 직원 13명은 AI 기술이 인류의 멸종을 초래할 수 있다며 제대로 된 감독의 필요성을 강조했습니다.

앞서 AI 주요 기업 경영진과 기술자, 과학자 등 350여 명은 핵전쟁만큼 인류에게 위협이 될 수 있다며 AI로 인한 '멸종'을 막아야 한다는 성명을 내기도 했습니다.

최근 공개된 미국 국무부 용역보고서도 AI 시스템이 무기화될 경우 돌이킬 수 없는 피해가 예상된다고 밝히고 있습니다.

간단한 명령만으로 한 국가의 전력망 붕괴나 전쟁에 준하는 사태를 만들 수 있다는 겁니다.

[일론 머스크/오픈AI 창립멤버/지난해 11월 : "만약 로봇이 당신을 어디든 따라다닐 수 있다면, 어느 날 소프트웨어가 바뀌어서 더 이상 친절하지 않다면, 영화 '터미네이터'가 현실이 될 겁니다."]

인간이 통제력을 상실한다면 AI는 아이 손에 놓인 핵폭탄 발사 단추가 될 수 있다는 지적입니다.

KBS 뉴스 김귀수입니다.

영상편집:사명환/그래픽:채상우 김지혜/자료조사:오지민