기사 본문 영역

상세페이지

[지식K] 불가피한 사망사고…자율주행차의 윤리적 딜레마?
입력 2018.11.15 (13:23) 수정 2018.11.15 (22:10) 지식K

구글의 자율주행차 개발을 책임지고 있는 자회사인 웨이모(Waymo)가 이르면 다음달 자율주행차 서비스를 시작할 수도 있다고 포춘이 전했다. 웨이모는 이미 보조 운전자도 탑승하지 않은 완전한 무인 로봇택시 30대를 팔로 알토와 마운틴 뷰 등 산타클라라 카운티 지역의 고속도로와 일반 도로에서 시험 운영해왔다.


하지만 완전한 자율주행이 정착하려면 기술적 문제뿐만 아니라 사고가 발생하는 상황에서 선택이나 판단과 그에 따른 책임 문제도 해결해야 한다. 이와 관련해 불가피하게 인명 손실이 발생하는 경우에 자율주행차가 어떻게 최선의 선택을 해야 하는가와 관련된 문제들도 제기되고 있다.

운전 도중에 갑자기 무단횡단을 하는 사람이 나타난다면 운전자는 급브레이크를 밟거나 보행자를 피하려고 운전대를 돌리는 순간적 판단을 한다. 급하게 운전대를 조종하다 내가 다치거나 죽을 수도 있고 내가 살기 위해 불가피하게 보행자를 다치거나 죽게 할 수도 있다.

어느 경우이든 책임은 운전자가 진다. 하지만 자율주행차 시대가 되면 차량에 탑재된 인공지능, 알고리즘 또는 프로그램이 스스로 이런 판단을 내려야 할 것이다.

네이처(Nature)에 따르면 최근 MIT 대학의 미디어 연구소가 이런 도덕적 가치 판단에 대한 알고리즘을 개발하기 위해 233개 국가의 230만 명을 대상으로 설문 조사를 실시한 결과 매우 흥미로운 사실을 발견했다고 보도했다.

▶ MIT 모럴 머신 사이트 참여하기 

MIT의 연구팀은 모럴 머신(Moral Machine)이라고 불리는 웹사이트를 통해 브레이크 고장에 따른 충돌 사고로 죽음이 불가피한 13가지 상황에서 운전자의 선택에 관한 조사를 실시했다.

예를 들면 충돌 사고로 두 사람 가운데 한 사람의 인명이 손실이 불가피할 경우 어린이를 살릴 것인가 아니면 노인을 살릴 것인가? 소수를 살릴 것인가 아니면 다수를 살릴 것인가? 남성과 여성 가운데 누구를 보호하는 선택을 할 것인가? 등과 같은 질문이다.


공통적으로 일치하는 기준은 2가지

다양한 상황에 대한 보편적 공통 기준을 마련할 수 있으리라는 기대와 달리 문화적 차이, 사회 경제적 차이 등에 따라 국가마다 선택 기준이 달라지는 것으로 나타났다. 즉 자율주행차에 적용할 수 있는 보편적인 선택 기준을 마련하는 것이 현재로서는 상당히 어렵다는 이야기다.

모든 국가에 적용할 수 있는 공통적인 선택 기준은 두 가지로 나타났다. 첫째는 애완동물보다 인명을 선호한다는 것이고 두 번째는 소수보다 다수를 구하는 쪽으로 자율주행자가 선택할 수 있도록 프로그램되어야 한다는 것이다.

출처: http://moralmachineresults.scalablecoop.org/출처: http://moralmachineresults.scalablecoop.org/

동양 - 서양의 지역적 차이

지역별로 각 상황에 대한 도덕적 가치 판단은 크게 세 그룹으로 나뉘었다. 첫째 그룹은 북미와 유럽 지역의 국가들이다. 미국, 캐나다, 영국, 스웨덴 등 서구 국가들의 선택 기준이 대체로 비슷한 성향을 보였다. 이 국가들은 역사적으로 기독교 문화가 지배했었고 단체보다는 개인을 중시하는 개인주의 문화 국가라는 문화적 공통점이 있다.

두 번째 그룹은 유교와 이슬람 문화권에 속한 국가들이다. 일본, 우리나라, 중국 등 동아시아 국가들과 인도네시아, 태국 등 동남아시아 국가 그리고 파키스탄과 사우디아라비아 등 이슬람 국가들이 비슷한 성향의 선택을 한 것으로 나타났다.

나머지 한 그룹은 멕시코, 페루, 칠레 등 브라질을 제외한 중남미 국가들이 비슷한 성향을 보였고 유럽에서는 프랑스와 아프리카 북부의 과거 프랑스 식민지였던 국가들 사이에 공통점이 많은 것으로 조사됐다.

사회, 경제 그리고 문화적 차이

지역뿐만 아니라 문화적 차이에 의해서도 다른 기준을 선택하는 것으로 나타났다. 노인과 젊은이 가운데 어느 쪽을 살려야 하는가라는 질문에 대해 개인주의적인 서구 국가들은 노인보다 젊은이(어린이)를 구해야 한다는 의견이 더 많았다. 반면 공동체적 경향이 강하고 어른은 존경하는 동양의 국가들은 젊은이보다 노인을 먼저 구하는 선택을 하는 경향이 높게 나타났다고 한다.

실제로 영국의 경우 노인과 젊은이 가운데 젊은이를 선택하는 답변이 전체 117개 국가 가운데 34번째로 높았지만 중국의 경우 노인을 선택하는 답변이 훨씬 많아 젊은이 선호 측면에서 115위를 나타냈다.

출처: http://moralmachineresults.scalablecoop.org/출처: http://moralmachineresults.scalablecoop.org/
문화적 차이와 함께 사회 경제적 요인도 선택에 영향을 미치는 것으로 조사됐다. 경제적 불평등이 높을수록 사회적 지위가 높은 사람과 낮은 사람에 대한 선택이 갈렸다. 소득 불평등 격차가 큰 국가의 사람들은 노숙자와 기업인 가운데 기업인을 살려야 한다고 선택하는 경우가 더 많은 것으로 나타났다.
예를 들면 소득 불평등의 정도가 낮은 스웨덴 사람들은 사회적 지위가 높은 사람을 살려야 한다는 답변에서 91위를 기록했지만 빈부 격차가 큰 남미의 베네수엘라의 사람들은 4위를 차지해 사회적 지위가 높은 사람들에 대한 선호도가 뚜렷한 것으로 조사됐다.

출처:http://moralmachineresults.scalablecoop.org/출처:http://moralmachineresults.scalablecoop.org/
우리나라 사람들은 어떤 선택을 했을까? 세계 평균보다 높은 선택 기준 분야는 애완동물보다 사람 선호, 개입 회피 선호, 보행자 선호, 여성 보호 선호 등 4개 분야로 나타났다. 반대로 평균보다 낮은 분야는 소수보다 다수 선호, 노인보다 젊은이 선호, 사회적 지위 선호 그리고 건강한 사람 선호 등으로 조사됐다.
출처: http://moralmachineresults.scalablecoop.org/출처: http://moralmachineresults.scalablecoop.org/
연구에 따르면 우리나라와 가장 비슷한 선택을 한 국가는 태국이고 가장 큰 차이를 보인 국가는 몽고로 나타났다고 한다.
출처:http://moralmachineresults.scalablecoop.org/출처:http://moralmachineresults.scalablecoop.org/
한국과 태국 운전자들은 소수보다 다수 선호, 젊은이보다 노인 선호, 법규 준수 선호 등 6가지 상황 선택에 대해 매우 유사한 성향을 보였다. 하지만 인간과 애완동물을 선택하는 상황에서는 우리나라는 사람을 선택하는 비율이 월등히 높았지만 태국은 우리보다 비율이 낮아 큰 차이를 보였다.

일부 비판론자들은 이런 선택 기준을 적용한 알고리즘이나 프로그램이 현실에 적용될 가능성은 높지 않다고 주장한다. 젊은이와 노인 가운데 한 사람을 선택하거나 동물과 사람 사이에서 선택을 해야 하는 상황이 과연 얼마나 자주 발생하고 실제로 발생할 수 있을까라는 것에 대해서도 회의적이다.

하지만 연구팀은 앞으로 공공 도로를 운행하는 자율주행차가 증가하면 갑자기 뛰어든 자전거를 피하려다 마주 오는 자동차와 충돌하는 상황 등 유사한 선택 상황이 발생할 가능성이 충분하다고 생각하고 있다. 또 일부 자동차 제조사들도 자율주행차가 어느 정도까지의 위험을 감수해야 하는가에 대해 사회적 합의를 이끌어내기 위한 논의를 시작하는 데 도움이 된다는 측면에서 가치 있는 연구라고 평가하고 있다.
  • [지식K] 불가피한 사망사고…자율주행차의 윤리적 딜레마?
    • 입력 2018.11.15 (13:23)
    • 수정 2018.11.15 (22:10)
    지식K

구글의 자율주행차 개발을 책임지고 있는 자회사인 웨이모(Waymo)가 이르면 다음달 자율주행차 서비스를 시작할 수도 있다고 포춘이 전했다. 웨이모는 이미 보조 운전자도 탑승하지 않은 완전한 무인 로봇택시 30대를 팔로 알토와 마운틴 뷰 등 산타클라라 카운티 지역의 고속도로와 일반 도로에서 시험 운영해왔다.


하지만 완전한 자율주행이 정착하려면 기술적 문제뿐만 아니라 사고가 발생하는 상황에서 선택이나 판단과 그에 따른 책임 문제도 해결해야 한다. 이와 관련해 불가피하게 인명 손실이 발생하는 경우에 자율주행차가 어떻게 최선의 선택을 해야 하는가와 관련된 문제들도 제기되고 있다.

운전 도중에 갑자기 무단횡단을 하는 사람이 나타난다면 운전자는 급브레이크를 밟거나 보행자를 피하려고 운전대를 돌리는 순간적 판단을 한다. 급하게 운전대를 조종하다 내가 다치거나 죽을 수도 있고 내가 살기 위해 불가피하게 보행자를 다치거나 죽게 할 수도 있다.

어느 경우이든 책임은 운전자가 진다. 하지만 자율주행차 시대가 되면 차량에 탑재된 인공지능, 알고리즘 또는 프로그램이 스스로 이런 판단을 내려야 할 것이다.

네이처(Nature)에 따르면 최근 MIT 대학의 미디어 연구소가 이런 도덕적 가치 판단에 대한 알고리즘을 개발하기 위해 233개 국가의 230만 명을 대상으로 설문 조사를 실시한 결과 매우 흥미로운 사실을 발견했다고 보도했다.

▶ MIT 모럴 머신 사이트 참여하기 

MIT의 연구팀은 모럴 머신(Moral Machine)이라고 불리는 웹사이트를 통해 브레이크 고장에 따른 충돌 사고로 죽음이 불가피한 13가지 상황에서 운전자의 선택에 관한 조사를 실시했다.

예를 들면 충돌 사고로 두 사람 가운데 한 사람의 인명이 손실이 불가피할 경우 어린이를 살릴 것인가 아니면 노인을 살릴 것인가? 소수를 살릴 것인가 아니면 다수를 살릴 것인가? 남성과 여성 가운데 누구를 보호하는 선택을 할 것인가? 등과 같은 질문이다.


공통적으로 일치하는 기준은 2가지

다양한 상황에 대한 보편적 공통 기준을 마련할 수 있으리라는 기대와 달리 문화적 차이, 사회 경제적 차이 등에 따라 국가마다 선택 기준이 달라지는 것으로 나타났다. 즉 자율주행차에 적용할 수 있는 보편적인 선택 기준을 마련하는 것이 현재로서는 상당히 어렵다는 이야기다.

모든 국가에 적용할 수 있는 공통적인 선택 기준은 두 가지로 나타났다. 첫째는 애완동물보다 인명을 선호한다는 것이고 두 번째는 소수보다 다수를 구하는 쪽으로 자율주행자가 선택할 수 있도록 프로그램되어야 한다는 것이다.

출처: http://moralmachineresults.scalablecoop.org/출처: http://moralmachineresults.scalablecoop.org/

동양 - 서양의 지역적 차이

지역별로 각 상황에 대한 도덕적 가치 판단은 크게 세 그룹으로 나뉘었다. 첫째 그룹은 북미와 유럽 지역의 국가들이다. 미국, 캐나다, 영국, 스웨덴 등 서구 국가들의 선택 기준이 대체로 비슷한 성향을 보였다. 이 국가들은 역사적으로 기독교 문화가 지배했었고 단체보다는 개인을 중시하는 개인주의 문화 국가라는 문화적 공통점이 있다.

두 번째 그룹은 유교와 이슬람 문화권에 속한 국가들이다. 일본, 우리나라, 중국 등 동아시아 국가들과 인도네시아, 태국 등 동남아시아 국가 그리고 파키스탄과 사우디아라비아 등 이슬람 국가들이 비슷한 성향의 선택을 한 것으로 나타났다.

나머지 한 그룹은 멕시코, 페루, 칠레 등 브라질을 제외한 중남미 국가들이 비슷한 성향을 보였고 유럽에서는 프랑스와 아프리카 북부의 과거 프랑스 식민지였던 국가들 사이에 공통점이 많은 것으로 조사됐다.

사회, 경제 그리고 문화적 차이

지역뿐만 아니라 문화적 차이에 의해서도 다른 기준을 선택하는 것으로 나타났다. 노인과 젊은이 가운데 어느 쪽을 살려야 하는가라는 질문에 대해 개인주의적인 서구 국가들은 노인보다 젊은이(어린이)를 구해야 한다는 의견이 더 많았다. 반면 공동체적 경향이 강하고 어른은 존경하는 동양의 국가들은 젊은이보다 노인을 먼저 구하는 선택을 하는 경향이 높게 나타났다고 한다.

실제로 영국의 경우 노인과 젊은이 가운데 젊은이를 선택하는 답변이 전체 117개 국가 가운데 34번째로 높았지만 중국의 경우 노인을 선택하는 답변이 훨씬 많아 젊은이 선호 측면에서 115위를 나타냈다.

출처: http://moralmachineresults.scalablecoop.org/출처: http://moralmachineresults.scalablecoop.org/
문화적 차이와 함께 사회 경제적 요인도 선택에 영향을 미치는 것으로 조사됐다. 경제적 불평등이 높을수록 사회적 지위가 높은 사람과 낮은 사람에 대한 선택이 갈렸다. 소득 불평등 격차가 큰 국가의 사람들은 노숙자와 기업인 가운데 기업인을 살려야 한다고 선택하는 경우가 더 많은 것으로 나타났다.
예를 들면 소득 불평등의 정도가 낮은 스웨덴 사람들은 사회적 지위가 높은 사람을 살려야 한다는 답변에서 91위를 기록했지만 빈부 격차가 큰 남미의 베네수엘라의 사람들은 4위를 차지해 사회적 지위가 높은 사람들에 대한 선호도가 뚜렷한 것으로 조사됐다.

출처:http://moralmachineresults.scalablecoop.org/출처:http://moralmachineresults.scalablecoop.org/
우리나라 사람들은 어떤 선택을 했을까? 세계 평균보다 높은 선택 기준 분야는 애완동물보다 사람 선호, 개입 회피 선호, 보행자 선호, 여성 보호 선호 등 4개 분야로 나타났다. 반대로 평균보다 낮은 분야는 소수보다 다수 선호, 노인보다 젊은이 선호, 사회적 지위 선호 그리고 건강한 사람 선호 등으로 조사됐다.
출처: http://moralmachineresults.scalablecoop.org/출처: http://moralmachineresults.scalablecoop.org/
연구에 따르면 우리나라와 가장 비슷한 선택을 한 국가는 태국이고 가장 큰 차이를 보인 국가는 몽고로 나타났다고 한다.
출처:http://moralmachineresults.scalablecoop.org/출처:http://moralmachineresults.scalablecoop.org/
한국과 태국 운전자들은 소수보다 다수 선호, 젊은이보다 노인 선호, 법규 준수 선호 등 6가지 상황 선택에 대해 매우 유사한 성향을 보였다. 하지만 인간과 애완동물을 선택하는 상황에서는 우리나라는 사람을 선택하는 비율이 월등히 높았지만 태국은 우리보다 비율이 낮아 큰 차이를 보였다.

일부 비판론자들은 이런 선택 기준을 적용한 알고리즘이나 프로그램이 현실에 적용될 가능성은 높지 않다고 주장한다. 젊은이와 노인 가운데 한 사람을 선택하거나 동물과 사람 사이에서 선택을 해야 하는 상황이 과연 얼마나 자주 발생하고 실제로 발생할 수 있을까라는 것에 대해서도 회의적이다.

하지만 연구팀은 앞으로 공공 도로를 운행하는 자율주행차가 증가하면 갑자기 뛰어든 자전거를 피하려다 마주 오는 자동차와 충돌하는 상황 등 유사한 선택 상황이 발생할 가능성이 충분하다고 생각하고 있다. 또 일부 자동차 제조사들도 자율주행차가 어느 정도까지의 위험을 감수해야 하는가에 대해 사회적 합의를 이끌어내기 위한 논의를 시작하는 데 도움이 된다는 측면에서 가치 있는 연구라고 평가하고 있다.
kbs가 손수 골랐습니다. 네이버에서도 보세요.
기자 정보