[지구촌 돋보기] 인공지능은 인류의 파멸을 가져올 것인가?

[앵커]

지난달(6월) 영국 BBC 방송이 인공지능이 인류의 파멸을 가져올 것인가라는 내용의 기사를 보도한 적이 있습니다.

관련 전문가들의 의견도 엇갈렸는데요, 오늘은 인공지능이 과연 인류에게 위기를 가져올 것인지 전문가와 함께 살펴보겠습니다.

유창동 한국과학기술원 KAIST 전기및전자공학부 교수 연결돼 있습니다.

일부 인공지능 전문가들이, 인공지능이 인류의 절멸을 가져올 수 있다고 경고했는데요?

[답변]

네, 맞습니다.

최근에Microsoft 창시자 Bill Gates는 인공지능은 우리 일생에서 가장 변혁적인 기술이 될 것이라고 언급했습니다.

그러니까 이 기술은 internet, smartphones (1992), and PC (1971), 보다 더 큰 영향을 미칠 것으로 예상한 것입니다.

현재의 초거대 인공지능은 양날의 검과 같다고 할 수 있습니다.

인류의 발전에 크게 기여할 잠재력도 있지만, 반대로 우리 사회에 큰 재앙을 불러일으킬 수 있습니다.

작년 12월 OpenAI사가 ChatGPT를 출시하였는데 개발자를 포함한 많은 사람들이 그 성능에 깜짝 놀랐습니다.

기대 이상으로 자연스러운 대화를 나눌 수 있었으며 음악 생성, 게임 개발 등의 방법을 제시할 수 있으며 코딩도 가능할 수 있었습니다.

현재 인공지능은 약 100개의 언어를 자연스럽게 구사할 수 있었으나 설명이 안 되는 부분과 제어가 안 되는 부분들이 많았습니다.

개발자를 포함한 여러 사람이 걱정을 하기 시작했습니다. 대량의 가짜정보를 생성할 수 있고, 챗봇을 활용하여 인터넷 여론을 조작할 수 있고 인공지능과 연결된 기계를 조작하여 인명피해를 줄 수도 있고요.

그리고 실질적으로 많은 사람들이 걱정하고 있는 부분인데요.

인공지능이 사람의 일자리를 대처할 수 있다는 우려가 있었습니다.

현재 이러한 우려와 인공지능이 환각 (hallucination)을 하는 경우, 그리고 탈옥을 하는 경우가 있습니다.

환각은 인공지능이 그럴듯한 답변을 만들기 위해 현실과 다른 정보를 생성하거나 관련 없는 결과를 제공하는 것을 말하고, 탈옥은 인공지능이 개발자의 의도를 벗어나는 결과를 생성하거나, 윤리성 및 안전성의 이유로 제한되었던 영역에서 벗어나 동작하는 것을 뜻합니다.

그리고 올해 5월에는 민간 비영리단체인 ＇AI 안전 센터(CAIS, The Center for AI Safety)＇ 에서 ＂AI 기술로 인한 인류의 멸절 위험을 완화하는 것은, 팬더믹, 핵전쟁과 같은 사회적 규모의 위험과 함께 세계적인 우선순위로써 다루어 져야 한다.

[앵커]

반면 인공지능의 위협이 지나치게 과장됐다고 보는 견해도 있죠?

[답변]

네, 인공지능의 위협이 과장되었다는 견해를 갖고 있는 연구자들도 있습니다.

토론토대학교 힌튼 교수님과 2018년도에 Turing 상을 수상하신 Lecun 교수님은 과장되었다고 보고 있죠.

이분은 인공지능의 발전이 인류에게 긍정적인 영향을 줄 수 있다고 주장하고 있습니다.

Berkely 대학 러셀 교수는 인공지능이 인간의 가치관과 일치하게 개발이 되고 모든 산업분야에 상용화 된다면 공급망에서 불필요한 인건비를 줄여 전 세계 사람들에게 높은 수준의 생활을 제공할 수 있고 생각하고 있으며 이는 전 세계 GDP를 10배 가까이 증가시키는 효과로 이어질 것이고 고도로 발달한 인공지능은 인간이 현재 이루지 못하는 많은 것들을 가능하게 할 것이라고 내다 보았고 사람들은 자신보다 우수한 지능에 접근하여 고난도의 일을 해결하고, 개인에게 최적화된 교육 서비스를 활용함으로써 지식을 지금보다 훨씬 효율적으로 습득할 수 있다고 예상했습니다.

[앵커]

인공지능의 무기화의 현황과 미래는 어떻게 전망하십니까?

[답변]

전투에서 삶과 죽음의 결정권을 기계에게 맡기는 것은 윤리적 문제가 있다고 생각하지만 인공지능의 특성을 잘 활용 한다면 미래 전쟁의 승패를 결정짓는 ‘게임 체인저’ 역할 할 수 있다고 생각합니다.

인공지능은 (1) 질병에 영향을 받지 않고 (2) 인명 피해를 줄일 수 있으며 (3)실수가 적으며 동일한 성능 보장하고 그리고 정확한 상황판단을 통해 위험이 어디서 언제 발생할 지를 알려 줄 수 있으며 무엇을 바꾸면 효율을 증대 시킬 수 있는지 알려 줄 수 있습니다.

그리고 인공지능의 최종목표는 우리가 놓인 상황을 정확하게 파악하고 필요한 도움을 주는 것이라고 생각을 하는데, 감시정찰, 사이버 작전, 정보작전, 반자율/자율 차량 운영, 자율살상 무기로 국민의 안전을 지킬 수 있다고 생각하며 국방에 특화된 인공지능 개발 필요하다고 생각합니다.

우리 군에서는 국방혁신 4.0 계획을 발표하였으며, 그 핵심에는 인공지능 기술을 활용한 3단계 유·무인 복합전투체계 구축이 있습니다.

[앵커]

한국의 인공지능 개발과 연구는 어떤 단계인가요?

[답변]

인공지능 분야에서 우리나라는 꾸준한 성과와 인정을 받고 있습니다.

국내 기업들인 삼성, LG AI Research, 카카오, 네이버, KT 등이 인공지능 연구에 많은 투자와 노력을 기울이고 있습니다.

특히 최근 주목을 받고 있는 chat-GPT와 같은 초거대 AI 모델 관련 기술을 많이 개발하고 있으며, 기술 개발에 그치는 것이 아닌, 기술의 상용화를 위해 지속적인 연구와 노력을 하고 있습니다.

논문편수로는 10년간의 연구 논문을 기준으로 8위, 5년간의 연구 논문을 기준으로 7위에 랭크되는 등 세계적으로 우수한 기술력을 인정받고 있습니다.

또한 국가 차원에서도 인공지능 인력 양성을 위해 많은 노력을 기울이고 있습니다.