[친절한 뉴스K] 인공지능 인류 위협, 핵 전쟁급?

[앵커]

빠른 속도와 기억력, 정확성 등의 장점을 가진 인공지능, 하지만 여전히 오류가 많습니다.

너무 믿고 의지했다가는 잘못된 정보로 일하다 사고까지 나겠죠.

핵전쟁 급 인류 재앙이라는 문제의식에 유엔까지 대책 마련에 나섰습니다.

친절한 뉴스, 오승목 기자입니다.

[리포트]

[샘 올트먼/오픈AI 대표/지난 9일 : "(인공지능 규제 관련) 국제 협력이 가장 중요하다고 생각하고 이번 여행에서 각국 리더들에게도 강조했습니다. 한국도 참여하기를 기대합니다."]

[브래드 스미스/마이크로소프트 부회장/지난 4월 : "위험 요소를 파악하고 안전 장치를 마련하는 것이 필요합니다. 법안도 만들어져야 한다고 보고 있습니다."]

최근 세계적인 IT 리더들이 우리나라를 찾아 인공지능의 위험성을 경고했죠.

미국 비영리단체도 성명서를 올렸습니다.

인공지능으로 인한 인류 위기를 줄이려면, 핵전쟁, 감염병 정도로 우선 순위를 두고, 전 지구가 다 함께 논의해야 한단 건데요.

이 성명서에는 빌 게이츠 등 이 분야 저명 인사들이 이름을 올렸습니다.

지난달엔 세계보건기구도, 인공지능 활용하다 의사나 환자에게 허위 정보가 제공될 가능성을 경고했습니다.

인공지능이 의료 윤리를 지키는지도 잘 봐야 하고요.

그저께는 유엔도 나섰습니다.

인공지능 규제를 위한 전문기구를 세우고, 국제규약도 만들겠다고 밝혔습니다.

인공지능이 통제할 수 없는 괴물이 될 수 있다는 이유였는데요.

과학적 사실에 어긋난 허위 정보를 대규모로 퍼뜨리는 능력이 있어 오해로 인한 증오를 확산시키고 인류 존망까지 위협받는단 설명입니다.

이 새로운 국제 기구를 국제원자력기구에 비유했죠.

인공지능이 제공하는 정보, 얼마나 정확하지 않길래 이럴까요?

인공지능 모델 'GPT-4'가 출시되자마자, 독도가 우리 영토임을 입증하는 자료들을 찾아달라 했습니다.

답변 중 "삼국유사에 독도가 언급돼 있다"는 내용이 있는데, 실제 삼국유사에는 독도가 나오지 않습니다.

삼국사기와 헷갈린 겁니다.

[정영미/동북아역사재단 독도연구소장 : "삼국사기를 삼국유사라고 (잘못 대답)했다든지, 용거산 얘기가 갑자기 툭 튀어나온다든지 하는 식으로. 사실 관계는 거의 다 (그대로) 봐서는 안 된다는..."]

자녀를 낳지 않는 부부를 뜻하는 '딩크족'에 대해서도, "고급스러운 커피를 즐기는 사람들"이라고 엉뚱한 설명을 늘어놓기도 합니다.

[이재구/국민대 소프트웨어융합대학 교수 : "커피하고 딩크족 간에 연관성이 있는 데이터들이 섞여 있던 부분들이 분명 있었을 거에요. 그것들을 가져다가 문장을 만드니까 불확실한 사실들이 포함돼 있는 데이터가 만들어지는 거죠."]

'챗GPT 플러스' 서비스의 기반이 되는 GPT-4는 미국 변호사시험, 상위 10%의 점수 수준이라는데, 좀 이상하죠?

인공지능이, 잘못된 정보를, 마치 사실인 것처럼 말하는 것을 '환각'이라고 말합니다.

최첨단 인공지능이라도 이 환각에, 뭔가 불확실한 순간이면 거짓말을 만들어내는 경향이 있는 건데요.

챗GPT 개발사 오픈AI는 이 문제를 해결하기 위해, 지난달 말 논문을 발표했죠.

인공지능을 훈련할 때, 사람의 질문에 정답을 내놓았다고 보상하는 것이 아니라, 이 답을 이끌어내기까지 각 추론 단계가 맞게 진행되면 그때마다 보상을 하면 좀 낫다는 겁니다.

그러니까 인공지능의 결과가 아닌, 과정을 감독하잔 겁니다.

사실 이 방식은 실제 사람의 사고 과정과 비슷하죠.

그럼에도 불안한 시선은 여전히 있습니다.

이것만으로는 인공지능을 완전히 믿긴 어렵겠죠.

작동 환경이 달라질 때마다 적응해, 정확한 답을 내놓는 건 아직 인공지능에겐 어려운 일이기 때문입니다.

결국, 옆에 제대로 된 사람이 있어줘야겠죠.

KBS 뉴스 오승목입니다.

영상편집:신선미/그래픽:민세홍