“개인정보 유출”…‘이루다’ 개발사에 과징금·과태료 1억330만 원

개인정보보호위원회가 인공지능 챗봇서비스 ‘이루다’ 개발업체에 개인정보보호법 위반으로 모두 1억 330만 원의 과징금과 과태료를 부과했습니다.

정부가 인공지능 기술을 활용하는 기업의 무분별한 개인정보 처리를 제재한 건 이번이 처음입니다.

개인정보위는 오늘(28일) 전체회의를 열어 ‘이루다’ 개발사 ‘스캐터랩’의 개인정보보호 법규 위반행위에 대한 시정조치 안건을 논의하고, 과징금 5천 550만 원과 과태료 4천 780만 원 등 모두 1억 330만 원을 부과하기로 결정했다고 밝혔습니다.

해당 업체가 ‘이루다’ 개발·서비스 과정에서 정보 주체의 동의를 받지 않은 채 개인정보를 수집하고 수집목적 외에 정보를 활용했다고 봤습니다.

개인정보위는 ‘스캐터랩’이 자사 앱서비스인 ‘텍스트앳’과 ‘연애의 과학’에서 수집한 이용자 60만 명의 카카오톡 대화 문장 94억 건을 ‘이루다’ 개발·운영 과정에 활용하면서 ‘정보 주체가 명확히 인지할 수 있도록’ 알리고 동의를 받지 않는 절차를 밟지 않았다고 판단했습니다.

송상훈 개인정보위 조사조정국장은 “스캐터랩이 텍스트앳과 연애의 과학 개인정보처리방침에 ‘신규서비스 개발’이란 문구를 포함했지만 이용자가 이에 동의하는 것만으로 ‘이루다’ 같은 AI챗봇 서비스 개발에도 동의했다고 보기 어렵다”고 설명했습니다.

조사 결과 ‘스캐터랩’은 ‘이루다’ 인공지능 모델 개발을 위한 알고리즘 학습에 카카오톡 대화 문장을 이용하면서 대화에 포함된 이름, 휴대전화 번호, 주소 등 개인정보를 삭제하거나 암호화하지 않았습니다.

또한 ‘이루다’ 서비스를 운영하는 동안 20대 여성의 카카오톡 대화 문장 약 1억 건을 응답 데이터베이스로 구축하고 ‘이루다’가 이 중 한 문장을 선택해 말하도록 했습니다.

개인정보위는 이용자가 개인정보 자기결정권이 제한되는 등 예측할 수 없는 손해를 입을 수 있기 때문에 ‘스캐터랩’이 이용자 개인정보를 수집한 목적을 벗어나서 이용했다고 결론 내렸습니다.

이와 함께 ‘스캐터랩’이 2019년 10월부터 올해 1월 웹호스팅 서비스 ‘깃허브’에 카카오톡 대화 문장 1천431건과 AI모델을 게시한 것도 법 위반으로 판단됐습니다. 가명 정보를 불특정 다수에게 제공하는 과정에서 ‘특정 개인을 알아보기 위해 사용될 수 있는 정보’를 포함했기 때문입니다.

아울러 법정대리인 동의 없이 14세 미만 아동의 개인정보를 수집한 행위, 성생활 등에 관한 정보를 처리하면서 별도 동의를 받지 않은 행위, 회원 탈퇴자나 1년 이상 서비스 미사용자의 개인정보를 파기하지 않는 부분도 법 위반으로 인정됐습니다.