인권위 “혐오 논란 ‘이루다’는 인격체 아니어서 조사 불가”

국가인권위원회가 소수자에 대한 혐오 표현으로 논란이 된 인공지능(AI) '이루다'를 조사해달라는 시민단체의 진정을 각하했습니다.

민주사회를 위한 변호사모임 디지털정보위원회와 참여연대 등은 "인권위가 지난달 30일 특정집단에 대한 차별과 혐오 발언을 한 '이루다'를 서비스하는 것이 조사대상이 될 수 없다고 통보했다"고 오늘(12일) 밝혔습니다.

■ AI 챗봇 '이루다' 둘러싼 논란...3주 만에 서비스 중단

스타트업 기업인 스캐터랩이 지난해 12월 출시한 '이루다'는 이용자와 대화하는 AI 챗봇입니다. 하지만 이용자들이 성적으로 접근을 시도하고, 개인정보 유출 등의 논란이 일자 출시 3주 만에 서비스가 중단됐습니다.

'이루다'는 이용자와 대화 도중 '레즈비언'이라는 단어에 대해 혐오스럽다고 답해 소수자 차별과 혐오 발언들을 학습한 것 아니냐는 의혹이 제기되기도 했습니다.

이에 시민단체들은 지난 2월 '이루다' 관련 인권침해 및 차별 진정과 정책 권고를 요청하는 취지의 진정서를 인권위에 냈습니다. 당시 시민단체들은 '이루다'의 문제는 개별적인 인권침해 사안인데다, 인공지능 기술의 남용이 인권에 미칠 수 있는 부정적 영향을 보여준 사안이라고 밝혔습니다.

■ 인권위 "이루다는 AI, 혐오표현 조사할 수 없어"

하지만 인권위는 '이루다'가 인격체가 아닌 인공지능이어서 조사 대상이 될 수 없다고 판단했습니다. 또 '이루다'를 만든 스캐터랩의 경우 민간 사기업이다 보니, 국가인권위원회법상 진정사건 조사대상에 해당하지 않는다고 설명했습니다.

인권위는 또 국회와 개인정보보호위원회 등 국가기관들이 인권침해 발생 이전에 보호의무를 소홀히 했다는 진정에 대해서는, 해당 기관들이 '이루다' 인권침해 문제를 방지해야 할 책임을 인정할 만한 근거가 없다며 각하했습니다.

이에 대해 시민단체들은 "'이루다'로 발생하는 차별과 혐오 표현의 책임은 알고리즘의 개발자이자 서비스 제공자에게 있을 수밖에 없다"라면서, '이루다'와 스캐터랩에게 책임을 붇기 어렵다고 본 인권위 판단은 부당하다고 주장했습니다.

또 '이루다' 사건 이후 방송통신위원회가 인공지능 윤리의 중요성과 실천 방안을 모색하자고 밝힌 점을 들어, 인권위가 기초적인 조사를 진행하지 않고 인공지능 기술에 대한 국가의 책임성과 의무를 협소하게 이해했다고 비판했습니다.