분석부터 전투 지휘까지…전쟁 속 AI 제대로 활용하려면?

군사 분야에서의 인공지능(AI) 활용 원칙과 규범을 논의하는 고위급 회의가 오늘(9일) 서울에서 개막했습니다. 외교부와 국방부는 오늘 오전 서울 중구 롯데호텔에서 '2024 인공지능의 책임 있는 군사적 이용에 관한 고위급회의'(REAIM 고위급회의)를 개최했습니다.

REAIM 회의는 군사 분야 인공지능 활용 영향을 분석하고 국제사회 규범 형성을 촉진하기 위해 출범한 '반관 반민' 형식 국제회의입니다.

지난해 네덜란드에서 1차 회의가 열린 이후 이번이 두 번째로, 올해엔 한국과 네덜란드에 더해 싱가포르, 케냐, 영국이 공동 주최국으로 참여합니다.

내일(10일)까지 이틀간 이어지는 회의에는 90여개국 정부대표단, 국제기구·학계·산업계·시민사회 관계자 등 2천여명이 참가를 신청했습니다.

■ 분석부터 전투 결정까지…전쟁에 파고든 AI

일상에 파고든 AI 기술은 전쟁에서도 본격적으로 활용되고 있습니다. 특히 최근 우크라이나 전쟁을 통해 AI 기술을 활용한 드론이 주목받고 있습니다.

미국 군대의 경우 AI 기반 타격 시스템을 적용한 MQ-9 리퍼 드론을 운영 중입니다. 이 시스템은 센서 및 정보 수집 데이터를 분석해서 목표를 식별하고 우선순위까지 정합니다. 또 미국 국방부의 '메이븐 프로젝트'는 AI를 사용해 드론 영상에서 목표물을 분석하고 식별합니다.

또 AI는 군 지휘관이 전략적 결정을 내릴 때도 도움을 줄 수 있습니다. 미국 국방부의 합동 인공지능 센터(JAIC)는 실시간 전투 결정 지원을 위한 AI 통합 작업을 진행 중입니다.

한국 국방부도 최근 AI 기반 국방 혁신을 핵심 전략으로 삼고 있습니다. '국방혁신 4.0 기본계획'에 따르면 우리 군은 AI 기반 무인전투체계를 구축하고 이를 실제 전장에 활용하려는 목표를 가지고 있습니다. 또 한국 국방부는 킬웹(Kill Web) 개념을 도입하여 AI가 핵·미사일 시스템을 실시간으로 분석해 최적의 타격 지점을 찾아낼 수 있도록 지원하고 있습니다.

■ 윤리 문제 ·책임 문제 등 해결해야 할 과제도 많아

군사 분야에서 AI는 큰 역할을 할 수 있지만 몇 가지 우려되는 부분도 있습니다. 가장 큰 우려는 자율무기 시스템에서 AI를 사용하는 것에 대한 윤리적 문제입니다. 생사 결정을 AI에 맡길 경우 민간인 사상자나 국제 인도법 위반으로 이어질 수 있기 때문입니다.

책임 문제도 있습니다. AI 시스템은 알고리즘에 의해 결정을 내리지만 예상치 못한 결과가 초래될 경우 그 책임이 누구에게 있는지가 분명치 않습니다. 또 AI 시스템이 방대한 데이터를 기반으로 작동하는데, 데이터가 편향될 경우 목표물을 잘못 인식하거나 위협을 잘못 해석할 위험도 있습니다.

마지막으로 AI 시스템은 해킹에 취약해서 적이 군사 AI 시스템에 침입할 경우 자율 무기를 장악하게 될 위험성이 있습니다.

조태열 외교부 장관은 개회사에서 AI의 군사적 이용이 군사 혁신을 주도하는 동시에 다양한 도전을 불러올 수 있다고 밝히며 관련 규범과 글로벌 거버넌스(관리 체제)를 마련하는 것이 중요하다고 밝혔습니다.

김용현 국방부 장관도 AI가 군의 작전 능력 향상과 오남용 피해를 동시에 초래하는 '양날의 검'과 같다며 군사 분야 AI의 책임 있는 이용에 대한 균형 잡힌 이해와 국제사회의 협력이 필요하다고 발언했습니다.

폴 샤레 신미국안보센터(CNAS) 총괄부사장 겸 연구소장은 AI가 이미 전세계 분쟁지역에서 사용되는 상황이라며 "지금 기술은 사람이 통치하지만, 시간이 더 가면서 그 통제는 점차 기계 쪽으로 넘어갈 것"이라고 언급했습니다.

이영수 공군참모총장은 AI 기술 개발을 통해 "전쟁 방식과 양상이 완전히 바뀔 것이고 국제협력과 적절한 준비 없이는 인류에 위협을 가할 수 있다"고 우려하며 "그렇기에 우리가 협력해야 할 중요한 시기"라고 강조했습니다.

사이드 알다헤리 두바이대 미래학연구소장은 오늘날 AI가 글로벌 안정성에 미칠 영향을 우려하며 "다양한 국가가 이러한 기술 개발을 다양한 목적으로 가속하면서 긴장이 고조될 수 있고 원치 않은 분쟁으로 이어질 수 있다"면서 "국가들이 협력을 강화하고 거버넌스를 구축·이행하는 게 필수적"이라고 덧붙였습니다.

■ "군사적 AI 사용에 대한 국제규범 마련하고 청사진 내놓을 것"

내일 열리는 REAIM 고위급 회의에서는 군·정부·기업 관계자와 전문가들이 AI가 국제 평화와 안보에 미치는 영향을 논의하고 군사 분야에서 AI를 책임 있게 이용하는 방안을 토론합니다.

각국 정부 대표가 참여하는 고위급 행사에서는 군사 분야에서 AI를 활용할 때 지켜야 할 기본 원칙과 우려, 국제사회 협력 가능성 등을 논의하고 결과를 선언문으로 발표합니다.

군사 분야 AI 규범 마련을 위한 청사진을 제시하는 선언적 문서인 '블루프린트 포 액션'(Blueprint for Action)은 향후 유엔총회 논의의 기반이 될 예정입니다.

외교부 당국자는 "결과 문서에는 군사 분야 AI 이용과 관련된 최소한의 '가드레일'(제한선)과 책임 있는 이용을 위한 원칙 등이 제시될 예정"이라며 "이 문서를 바탕으로 유엔총회에서 후속 논의가 이뤄지도록 추진할 계획"이라고 밝혔습니다.