기사 본문 영역

상세페이지

인공지능 23개 원칙 공개…“AI 무기 경쟁 피해야”
입력 2017.02.02 (09:47) 수정 2017.02.02 (10:07) 국제
인공지능(AI) 기술이 획기적으로 발전하는 가운데 AI의 잠재적 위험에 대처하는 내용의 AI23개 원칙이 나왔다.

AI 연구를 지원하는 비영리단체인 '퓨처 오브 라이프 인스티튜트' 웹사이트에 공개된 23가지 AI 원칙에는 'AI 기반 무기경쟁을 피해야 한다'는 것이나 안전기준 확립 같은 AI에 제기된 우려의 내용이 포함됐다.

이번에 공개된 AI 원칙은 미국 캘리포니아의 아실로마에서 열린 AI 콘퍼런스에서 도출돼 이른바 '아실로마 AI 원칙'으로 불린다.

영화 '터미네이터'나 드라마 '웨스트월드'에 나오는 것 같은 지능이 뛰어난 로봇의 반란을 걱정하는 듯한 원칙도 있다.

첫번째 원칙은 AI 연구의 목적이 "지시 없는 지능이 아니라 이로운 지능을 만드는 것"이어야 한다는 것이다.

또 마지막 2가지 원칙은 "반복적으로 스스로 발전하거나 스스로 자기복제해 양과 질을 급격하게 증가시키는 AI 시스템은 엄격한 통제 절차를 따라야 한다"와 "초지능(superintelligence)은 폭넓게 공유된 윤리적 이상에 따라 한 국가나 조직이 아니라 모든 인류의 이익을 위해서만 개발돼야 한다"는 것이다.

이밖에 AI로 얻은 경제적 번영은 전 인류를 위해 폭넓게 나눠야 한다는 내용도 있다. 또 사생활 보호나 투명성 등에 관한 원칙도 마련됐다.

'아실로마 AI 원칙'에 서명한 사람은 AI와 로봇공학 연구자 816명 등 모두 2천여명이다. 과학자 스티븐 호킹과 전기차회사 테슬라의 최고경영자 일론 머스크가 서명에 참여했다.

또 이세돌을 바둑에서 꺾은 알파고를 개발한 구글 딥마인드의 데미스 하사비스 최고경영자와 인공지능이 인간을 넘어서는 '특이점'(Singuarity)이 2045년에 온다고 한 미래학자 레이 커즈와일도 서명에 동참했다.

지난달 유럽연합 의회도 비상상황에서 로봇의 작동을 멈출 수 있는 스위치가 있어야 한다는 권고를 포함한 결의안을 채택한 바 있다.

  • 인공지능 23개 원칙 공개…“AI 무기 경쟁 피해야”
    • 입력 2017-02-02 09:47:27
    • 수정2017-02-02 10:07:09
    국제
인공지능(AI) 기술이 획기적으로 발전하는 가운데 AI의 잠재적 위험에 대처하는 내용의 AI23개 원칙이 나왔다.

AI 연구를 지원하는 비영리단체인 '퓨처 오브 라이프 인스티튜트' 웹사이트에 공개된 23가지 AI 원칙에는 'AI 기반 무기경쟁을 피해야 한다'는 것이나 안전기준 확립 같은 AI에 제기된 우려의 내용이 포함됐다.

이번에 공개된 AI 원칙은 미국 캘리포니아의 아실로마에서 열린 AI 콘퍼런스에서 도출돼 이른바 '아실로마 AI 원칙'으로 불린다.

영화 '터미네이터'나 드라마 '웨스트월드'에 나오는 것 같은 지능이 뛰어난 로봇의 반란을 걱정하는 듯한 원칙도 있다.

첫번째 원칙은 AI 연구의 목적이 "지시 없는 지능이 아니라 이로운 지능을 만드는 것"이어야 한다는 것이다.

또 마지막 2가지 원칙은 "반복적으로 스스로 발전하거나 스스로 자기복제해 양과 질을 급격하게 증가시키는 AI 시스템은 엄격한 통제 절차를 따라야 한다"와 "초지능(superintelligence)은 폭넓게 공유된 윤리적 이상에 따라 한 국가나 조직이 아니라 모든 인류의 이익을 위해서만 개발돼야 한다"는 것이다.

이밖에 AI로 얻은 경제적 번영은 전 인류를 위해 폭넓게 나눠야 한다는 내용도 있다. 또 사생활 보호나 투명성 등에 관한 원칙도 마련됐다.

'아실로마 AI 원칙'에 서명한 사람은 AI와 로봇공학 연구자 816명 등 모두 2천여명이다. 과학자 스티븐 호킹과 전기차회사 테슬라의 최고경영자 일론 머스크가 서명에 참여했다.

또 이세돌을 바둑에서 꺾은 알파고를 개발한 구글 딥마인드의 데미스 하사비스 최고경영자와 인공지능이 인간을 넘어서는 '특이점'(Singuarity)이 2045년에 온다고 한 미래학자 레이 커즈와일도 서명에 동참했다.

지난달 유럽연합 의회도 비상상황에서 로봇의 작동을 멈출 수 있는 스위치가 있어야 한다는 권고를 포함한 결의안을 채택한 바 있다.

kbs가 손수 골랐습니다. 네이버에서도 보세요.
기자 정보