“XXX아 축하해!” 아이 100일에 AI가 보낸 욕설 [주말엔]

지난여름 눈에 넣어도 아프지 않을 아이를 낳은 A 씨 부부.

하루하루 커가는 아이의 성장 과정을 추억으로 남기고자, 아이 사진을 앨범처럼 정리해주는 앱 하나를 다운로드 받았습니다. '10만 회 이상 다운로드', '별점 4.8점'에 이미 유명한 앱이라, 고민 없이 이용을 시작했습니다.

그런데 가족들과 아이 사진을 공유하며 앱을 요긴하게 사용한지 얼마 되지 않아 문제가 생겼습니다.

아이의 100일에 앱 챗봇으로부터 심한 욕설이 담긴 메시지가 온 겁니다.

■ "XXX(욕설)아! 100일 축하해!" 아이 100일에 온 욕설 메시지

아이 이름 앞에 붙은 심한 욕설에 A 씨 부부는 순간 얼어붙었습니다.

발신자는 감기 관리법, 알러지 반응 예방법 등의 육아 '팁'을 알려주는 앱 챗봇. 아이의 생일과 같은 기념일을 축하하고 기록하는 기능도 하는데, 여기서 문제가 생긴 겁니다.

당황한 A 씨 부부는 곧장 앱 상담센터를 통해 항의했습니다. "왜 이렇게 욕설이 온 거냐"는 질문에 "해당 기능은 인공지능 기반의 채팅 도구로 대화 내용이 일부 제어하기 어렵다"는 답을 받았습니다.

"욕설이 계속 보여 신경이 쓰이고 기분이 나쁘니 해당 채팅을 지워달라"는 요구에는 "해당 내용은 삭제가 불가해 보기 불편하면 아무 내용이나 보내서 위로 올려 안 보이게 덮어라"라는 황당한 답이 돌아왔습니다.

이들이 앱을 사용한건 두 달. 1년 구독료로 6만 6천 원을 선결제한 상태였는데 이에 대한 환불도 요구했지만 거절당했습니다.

A 씨 부부는 "아이가 태어난 뒤 처음으로 들은 욕일 거라 속상한 마음"이라고 토로했습니다. 또 "어떤 원리에 의해 욕설이 담긴 건지 설명이 없으니 고의인지 아닌지 의심까지 든다"고 말했습니다.

■ 앱 상담센터 "친근하게 답변하려다 그만"

왜 이런 욕설이 담긴 메시지가 발송된 걸까? 취재진은 해당 앱에 경위를 물으려 했지만, 전화번호도 주소도 찾을 수 없었고 오직 채팅으로만 문의할 수 있었습니다.

욕설을 보낸 AI에 대해 앱 상담센터는 "자연어 처리를 기반으로 한 AI 모델로, 다양한 육아 관련 지식을 대상으로 훈련돼 육아 문제를 해결하는 데 도움을 주기 위해 개발됐다"고 말했습니다.

다만 "냉담한 기계가 아닌 친근한 느낌을 주기 위해 몇 가지 답변 스타일을 정했는데, 이 중 '재미 요소'로 인해 예의에 어긋나는 농담이 나온 것 같다"고 설명했습니다.

육아 지식을 학습하고 훈련한 AI에게 '친근한 화법'이 더해지면서 생긴 문제라는 겁니다.

또 "불쾌한 경험을 제공한 점에 대해 진심으로 사과한다"며 "피드백을 받은 이후 해당 설정을 즉시 제거했다"고 덧붙였습니다.

A 씨 부부가 직접 항의했을 때 'AI라 제어하기 어려운 부분이 있다'고 말한 것과는 사뭇 다른 답변입니다.

■ 통제 벗어난 AI 발언…계속되는 논란

AI가 통제를 벗어난 발언을 해 논란이 된 건 이번만이 아닙니다.

2020년 성 소수자에 대한 차별적인 발언으로 AI 챗봇 '이루다'가 서비스를 중지하는가 하면, 최근 한 AI 챗봇은 '서울에서 가장 복잡한 곳은 어디야?'라는 질문에 '서울에서 가장 살기 X(욕설) 같은 곳은...'이라는 욕설 섞인 답을 하기도 했습니다.

최근 업계에서 AI의 선정성과 공격성, 편향성 등을 최소화하는 모델을 도입하기 위해 애를 쓰고 있는 이유입니다.

AI가 내뱉는 문제의 발언을 완벽하게 통제할 수 없다면, 문제가 생겼을 때 AI가 '어떤' 데이터를 '어떻게' 학습해서, '왜' 이런 결과가 도출됐는지 이용자에게 충분히, 친절하게 설명하는 노력만큼은 필수가 아닐지, 고민해볼 만한 지점입니다.

(인포그래픽: 김재은 권세라 )