논란의 ‘AI 이루다’ 1년 만에 시범 운영 재개…이번엔 괜찮을까?

AI 챗봇 ‘이루다’ (출처 : 페이스북 공식 계정)

■ AI 챗봇 '이루다' 클로즈 베타 테스트 시작…1년 만에 서비스 재개 '초읽기?'

AI 챗봇 '이루다'가 최근 베타 테스트를 다시 시작했습니다. 혐오 표현을 그대로 학습하면서 AI 윤리 문제와 함께 개인정보 침해까지 불거지면서 서비스를 잠정 중단한 것이 지난해 1월. 그로부터 1년 만에 서비스 재개를 위한 테스트 운영에 들어갔습니다.

이를 위해 개발사인 스캐터랩은 페이스북 '이루다' 공식 계정을 통해 베타 테스트에 참여할 국내 만 14세 이상 희망자 8,000명을 선발했습니다.

개발사는 최근 공식 계정의 공지사항을 통해, 이들이 AI '이루다'와 비공개로 소통하고 있으며 순조롭게 진행되고 있다고 전했습니다.


■ 개발사 "내부 조치·프로그램 개선" VS 소송 대리인 "재발 가능성 배제 못해"

이번 베타 테스트를 앞두고 개발사 측은 'AI 챗봇 윤리 준칙'을 수립했다고 밝혔습니다. 채팅 과정에서 나오는 개인정보 등은 가명 처리를 거친 데이터베이스화해 이용자들의 개인정보가 무단으로 사용되는 일이 없게 했다고도 했습니다.

혐오나 선정적인 단어나 문장을 분류해 거를 수 있는 프로그래밍 모델을 강화해 이루다가 또다시 편향적인 발언을 하거나 학습하지 않도록 했다고도 설명했습니다.

하지만 앞선 개인정보 침해로 피해를 입은 사람들 가운데 250여 명이 개발사 측과 소송 중입니다. 이 소송을 대리하고 있는 변호사 측은 이루다의 이번 서비스 재개를 두고 우려한다는 입장을 밝혔습니다.

개발사가 서비스 재개를 앞두고 개선조치를 내놓은 것에 대해서도 변호사는 다음과 같이 말했습니다.

우지현 변호사 (법무법인 태림) : "과거 민감한 개인정보에 대한 정보를 수집하는 과정에서 별도의 구분된 동의 절차도 없이 무지막지하게 수집됐던 내역이 있었습니다. 업체는 과거 수집된 데이터를 파기 처리했는지 확인해 주지 않고 있고요. 앞으로도 AI가 딥러닝하면서 이러한 것을 구분한다는 보장도 없는 것이지요."

■ 구글, 우회적으로 위치 정보 수집 의혹…미국 3개 주(州)에서 피소

이미 인공지능(AI) 분야 사업을 선도적으로 하고 있는 미국의 구글(Google)도 최근 동의 없는 개인정보 수집 의혹이 불거지면서 홍역을 치르고 있습니다.

위치정보 수집에 동의하지 않은 이용자들까지도 구글이 우회적으로 위치 정보를 수집했다는 주장이 미국 현지에서 제기된 것입니다.

스마트폰에 깔려있는 구글 관련 앱이나 무선 와이파이 연결 정보를 통해 2014년부터 수년간 이용자들의 위치를 수집했다는 의혹이 일면서 구글은 현재 미국 3개 주(州) 정부로부터 소송을 당했습니다.


■ 인공지능 산업 '발전'과 '권리 침해' 사이에 접점은?

기계가 무수하게 취합된 데이터(정보값)를 학습(머신러닝)하면서 인간에게 이롭거나 편리하도록 하는 것이 인공지능(AI) 산업의 목적입니다.

그러기 위해서는 무수한 정보를 모아야 하는데 정보의 양이 다양하고 많을수록 기계는 더욱 인간이 사고하는 방식과 가까운 결과에 도달하지만, 사생활 침해나 개인정보 무단 사용과 같은 문제가 종종 발생하기도 합니다.

AI 인공지능 산업은 범위도 워낙 넓어서 로봇부터 AI 플랫폼, 데이터 활용, 디지털 휴먼, 자율주행 등 AI가 접목되지 않는 차세대 산업을 찾기 어려울 정도입니다.

이 때문에 유럽과 미국 등에서는 윤리적인 절차와 과정을 밟아 AI 기술을 개발해야 한다는 사회적 논의가 나오고 있습니다.

그 대표적인 것이 지난해 UN에서 발표한 AI 규제법안입니다. 아직 '법안'이어서 논의와 숙고가 진행 중인데요, 요약하자면 AI가 인간의 권리를 침해해서는 안 된다는 것입니다.

세부적으로는 AI의 기준을 고위험/중위험/저위험 분야로 나눈 뒤 자율주행 분야 등 자칫 인간의 생명 등 기본권까지 침해할 수 있는 고위험 분야는 개발 과정부터 기계 학습 등 모든 과정에 있어 엄격한 AI 윤리와 규제를 적용해야 한다는 것을 내용으로 하고 있습니다.

우리나라도 인공지능 산업 진흥과 규제 등이 혼합된 관련 법안이 8건 가량 발의돼있지만, 아직 이에 대한 후속 논의는 더딘 수준입니다.

국내외 할 것 없이 빅테크부터 스타트업까지 인공지능 산업에 뛰어들고 있는 상황, 개발 업계와 법학계에서는 기술 개발과 인간의 권리 모두를 위해서라도 적절한 기준점을 찾는 논의를 더는 늦춰서는 안 된다고 말하고 있습니다.