기사 본문 영역

상세페이지

구글, 인공지능 통제불능 사태 막을 ‘킬 스위치’ 개발중
입력 2016.06.09 (16:09) 수정 2016.06.09 (16:52) 국제
미국 구글이 인공지능(AI)이 폭주할 때 비상 정지시키는 '킬 스위치'를 개발 중이라고 니혼게이자이신문이 9일 보도했다.

AI가 인간의 통제를 벗어나는 '반역' 상황에서 즉각 안전을 위해 정지시킬 수 있는 대비책을 마련하는 것이다. 이 비상 스위치는 '빅 레드 버튼(big red button)'으로 불린다.

킬 스위치 개발에는 알파고를 개발한 구글 자회사 영국 딥마인드 테크놀로지의 연구자들이 참여했다.

딥마인드 연구진들은 '안전하게 멈춰 세울 수 있는 대리자(Safely Interruptible Agents)'라는 논문을 발표하고, AI가 비상정지 버튼을 무력화하지 못하는 기술을 개발하는 것이 핵심이라고 강조했다.
  • 구글, 인공지능 통제불능 사태 막을 ‘킬 스위치’ 개발중
    • 입력 2016-06-09 16:09:35
    • 수정2016-06-09 16:52:49
    국제
미국 구글이 인공지능(AI)이 폭주할 때 비상 정지시키는 '킬 스위치'를 개발 중이라고 니혼게이자이신문이 9일 보도했다.

AI가 인간의 통제를 벗어나는 '반역' 상황에서 즉각 안전을 위해 정지시킬 수 있는 대비책을 마련하는 것이다. 이 비상 스위치는 '빅 레드 버튼(big red button)'으로 불린다.

킬 스위치 개발에는 알파고를 개발한 구글 자회사 영국 딥마인드 테크놀로지의 연구자들이 참여했다.

딥마인드 연구진들은 '안전하게 멈춰 세울 수 있는 대리자(Safely Interruptible Agents)'라는 논문을 발표하고, AI가 비상정지 버튼을 무력화하지 못하는 기술을 개발하는 것이 핵심이라고 강조했다.
kbs가 손수 골랐습니다. 네이버에서도 보세요.
기자 정보