기사 본문 영역

상세페이지

[글로벌 돋보기] 사우디 ‘무인 드론’ 공격에 충격…“‘킬러 로봇’은 재앙 될 것”
입력 2019.09.16 (19:53) 수정 2019.09.16 (19:55) 글로벌 돋보기
[글로벌 돋보기] 사우디 ‘무인 드론’ 공격에 충격…“‘킬러 로봇’은 재앙 될 것”
무인기(드론)가 퍼부은 공격에 세계 최대 규모 석유 시설 두 곳이 삽시간이 불바다가 됐습니다.

친이란 예멘 반군은 자신들이 드론 10대로 이들 시설을 공격했다고 주장했습니다. 사실이라면 드론 단 10대만으로 자그마치 하루 570만 배럴, 사우디아라비아 일일 원유 생산량의 절반을 마비시킨 셈입니다.

이번 공격이 충격을 준 또 다른 이유는 영화에서나 나오던 드론에 의한 테러가 현실화됐다는 점입니다. 중동의 맹주인 사우디군은 무인기가 다가와 공격할 때까지 아무 대응조차 하지 못했습니다.

국가의 산업 기반 시설을 쑥대밭으로 만든 무인(無人) 공격. 사실 드론 공격보다 전문가들이 더 걱정하는 것은 따로 있습니다. 바로 스스로 판단하고 움직여 사람이 조종할 필요도 없는 '킬러 로봇'입니다.

미군이 개발한 전쟁 지원 로봇미군이 개발한 전쟁 지원 로봇

우발적 전쟁까지 일으킬 수 있는 '킬러 로봇'

영국 가디언 지는 차세대 자율 무기 또는 '킬러 로봇'이 우발적인 전쟁을 일으키거나 대규모 잔혹 행위를 일으킬 수 있다는 우려를 전(前) 구글 소프트웨어 엔지니어 로라 놀란의 말을 인용해 보도했습니다.

로라 놀란은 인공지능 기술을 활용해 미군의 군용 드론 기술을 획기적으로 강화하려는 프로젝트에 파견된 것에 항의해 지난해 구글에 사표를 던졌습니다. 그는 모든 사람이 조종하지 않는 인공지능 무기는 모두 금지돼야 한다고 주장합니다.

놀란은 로봇 무기가 드론보다 훨씬 위험하다고 주장합니다. 원격으로라도 사람이 움직이는 드론과는 달리 킬러 로봇은 "원래 프로그램되지 않은 재앙적인 행동"을 할 가능성이 있다는 겁니다. 이 때문에 인간이 조종하지 않는 킬러 로봇은 화학무기와 같은 유형의 국제 제재가 필요하다고 놀란은 말했습니다.

독일 인공지능 전쟁 로봇 반대 캠페인독일 인공지능 전쟁 로봇 반대 캠페인

인간 통제 벗어난 '킬러 로봇'.. 전장의 '시한폭탄'

놀란은 프로그램화된 인공지능 로봇은 사람만큼 복잡한 사고를 할 수 없기 때문에 치명적인 결과를 초래할 수 있다고 비판했습니다.

이어 "자율 무기가 작전 지역에서 예측하지 못한 상황과 직면한 시나리오를 가정해보자"며 "소프트웨어에 입력되지 않은 날씨를 맞닥뜨리거나 또는 반군처럼 보이지만 실제로는 식량을 사냥하기 위해 총을 든 인원들과 마주쳤을 때 기계는 인간이 가진 통찰력이나 상식을 발휘할 수 없다"고 지적했습니다.

그는 "이 자율 전쟁 시스템이 무서운 점은 테스트를 하기 위해서는 실제 전투 지역에 배치해야 한다는 것"이라고 말합니다. 또 "오직 소프트웨어로만 실행되는 시스템에 미묘한 인간의 행동을 감지하거나 사냥꾼과 반군의 차이를 구분하도록 어떻게 훈련시킬 것이냐"라고 되물었습니다.

놀란은 "미사일 유도 시스템이나 미사일 방어 시스템은 인간의 완전한 통제하에 있고, 누군가 궁극적으로 책임을 진다. 하지만 자율 무기들은 전쟁에서 윤리는 물론 기술적인 면에서 단계가 바뀌는 것"이라며 "만일 우리가 주의하지 않는다면 킬러 로봇들은 우발적 전쟁을 시작하고, 원자력발전소를 파괴하고, 대규모 잔학 행위를 일으킬 수 있다"고 경고했습니다.

미군 무인기 글로벌 호크미군 무인기 글로벌 호크

각국 앞다퉈 '킬러 로봇' 개발 중.. '비윤리적 행위' 비판

실제 미국을 비롯해 세계 각국은 앞다퉈 무인 전쟁 로봇을 개발 중입니다. 미국은 인공지능이 탑재돼 인간이 간섭 없이도 혼자 움직일 수 있는 자동 보트와 배를 만들고 있습니다. 러시아의 T-14 탱크는 안에 사람이 없어도 공격에 대응할 수 있도록 설계됐습니다.

지난 2017년 글로벌 IT 기업 구글은 미국 국방부와 진행했던 '프로젝트 메이븐'을 안팎의 거센 비판을 받고 중단한 적도 있습니다. '프로젝트 메이븐'은 미군 드론이 목표를 더 잘 인식할 수 있도록 AI 알고리즘을 구글이 제공하는 사업이었습니다.

하지만 살상 무기에 인공지능을 사용한다는 것에 반발한 직원 10여 명이 사표를 던졌고 반대 서명운동까지 벌어져 구글은 계약을 갱신하지 않았습니다.
  • [글로벌 돋보기] 사우디 ‘무인 드론’ 공격에 충격…“‘킬러 로봇’은 재앙 될 것”
    • 입력 2019.09.16 (19:53)
    • 수정 2019.09.16 (19:55)
    글로벌 돋보기
[글로벌 돋보기] 사우디 ‘무인 드론’ 공격에 충격…“‘킬러 로봇’은 재앙 될 것”
무인기(드론)가 퍼부은 공격에 세계 최대 규모 석유 시설 두 곳이 삽시간이 불바다가 됐습니다.

친이란 예멘 반군은 자신들이 드론 10대로 이들 시설을 공격했다고 주장했습니다. 사실이라면 드론 단 10대만으로 자그마치 하루 570만 배럴, 사우디아라비아 일일 원유 생산량의 절반을 마비시킨 셈입니다.

이번 공격이 충격을 준 또 다른 이유는 영화에서나 나오던 드론에 의한 테러가 현실화됐다는 점입니다. 중동의 맹주인 사우디군은 무인기가 다가와 공격할 때까지 아무 대응조차 하지 못했습니다.

국가의 산업 기반 시설을 쑥대밭으로 만든 무인(無人) 공격. 사실 드론 공격보다 전문가들이 더 걱정하는 것은 따로 있습니다. 바로 스스로 판단하고 움직여 사람이 조종할 필요도 없는 '킬러 로봇'입니다.

미군이 개발한 전쟁 지원 로봇미군이 개발한 전쟁 지원 로봇

우발적 전쟁까지 일으킬 수 있는 '킬러 로봇'

영국 가디언 지는 차세대 자율 무기 또는 '킬러 로봇'이 우발적인 전쟁을 일으키거나 대규모 잔혹 행위를 일으킬 수 있다는 우려를 전(前) 구글 소프트웨어 엔지니어 로라 놀란의 말을 인용해 보도했습니다.

로라 놀란은 인공지능 기술을 활용해 미군의 군용 드론 기술을 획기적으로 강화하려는 프로젝트에 파견된 것에 항의해 지난해 구글에 사표를 던졌습니다. 그는 모든 사람이 조종하지 않는 인공지능 무기는 모두 금지돼야 한다고 주장합니다.

놀란은 로봇 무기가 드론보다 훨씬 위험하다고 주장합니다. 원격으로라도 사람이 움직이는 드론과는 달리 킬러 로봇은 "원래 프로그램되지 않은 재앙적인 행동"을 할 가능성이 있다는 겁니다. 이 때문에 인간이 조종하지 않는 킬러 로봇은 화학무기와 같은 유형의 국제 제재가 필요하다고 놀란은 말했습니다.

독일 인공지능 전쟁 로봇 반대 캠페인독일 인공지능 전쟁 로봇 반대 캠페인

인간 통제 벗어난 '킬러 로봇'.. 전장의 '시한폭탄'

놀란은 프로그램화된 인공지능 로봇은 사람만큼 복잡한 사고를 할 수 없기 때문에 치명적인 결과를 초래할 수 있다고 비판했습니다.

이어 "자율 무기가 작전 지역에서 예측하지 못한 상황과 직면한 시나리오를 가정해보자"며 "소프트웨어에 입력되지 않은 날씨를 맞닥뜨리거나 또는 반군처럼 보이지만 실제로는 식량을 사냥하기 위해 총을 든 인원들과 마주쳤을 때 기계는 인간이 가진 통찰력이나 상식을 발휘할 수 없다"고 지적했습니다.

그는 "이 자율 전쟁 시스템이 무서운 점은 테스트를 하기 위해서는 실제 전투 지역에 배치해야 한다는 것"이라고 말합니다. 또 "오직 소프트웨어로만 실행되는 시스템에 미묘한 인간의 행동을 감지하거나 사냥꾼과 반군의 차이를 구분하도록 어떻게 훈련시킬 것이냐"라고 되물었습니다.

놀란은 "미사일 유도 시스템이나 미사일 방어 시스템은 인간의 완전한 통제하에 있고, 누군가 궁극적으로 책임을 진다. 하지만 자율 무기들은 전쟁에서 윤리는 물론 기술적인 면에서 단계가 바뀌는 것"이라며 "만일 우리가 주의하지 않는다면 킬러 로봇들은 우발적 전쟁을 시작하고, 원자력발전소를 파괴하고, 대규모 잔학 행위를 일으킬 수 있다"고 경고했습니다.

미군 무인기 글로벌 호크미군 무인기 글로벌 호크

각국 앞다퉈 '킬러 로봇' 개발 중.. '비윤리적 행위' 비판

실제 미국을 비롯해 세계 각국은 앞다퉈 무인 전쟁 로봇을 개발 중입니다. 미국은 인공지능이 탑재돼 인간이 간섭 없이도 혼자 움직일 수 있는 자동 보트와 배를 만들고 있습니다. 러시아의 T-14 탱크는 안에 사람이 없어도 공격에 대응할 수 있도록 설계됐습니다.

지난 2017년 글로벌 IT 기업 구글은 미국 국방부와 진행했던 '프로젝트 메이븐'을 안팎의 거센 비판을 받고 중단한 적도 있습니다. '프로젝트 메이븐'은 미군 드론이 목표를 더 잘 인식할 수 있도록 AI 알고리즘을 구글이 제공하는 사업이었습니다.

하지만 살상 무기에 인공지능을 사용한다는 것에 반발한 직원 10여 명이 사표를 던졌고 반대 서명운동까지 벌어져 구글은 계약을 갱신하지 않았습니다.
KBS는 여러분과 함께 만들어갑니다.

kbs가 손수 골랐습니다. 네이버에서도 보세요.
기자 정보

    KBS사이트에서 소셜계정으로 로그인한 이용자는 댓글 이용시 KBS회원으로 표시되고
    댓글창을 통해 소셜계정으로 로그인한 이용자는 소셜회원으로 표시됩니다.