“대화 전 챗봇인지 미리 알려야”…KISO, 윤리 가이드라인 마련

한국인터넷자율기구(KISO)는 인공지능(AI) 챗봇 서비스의 신뢰를 높이고 윤리 문제에 대응하기 위한 '챗봇 윤리 가이드라인'을 마련했다고 오늘(4일) 밝혔습니다.

가이드라인에는 인간 존엄성 및 권리 존중, 개인정보 보호 및 정보보안, 다양성, 투명성, 책임 등 인공지능 챗봇이 지켜야 할 다섯 가지 원칙이 담겼습니다.

우선 이용자들에게 대화 상대가 챗봇이라는 점을 미리 밝히고, 결과물에 오류가 있을 수 있다는 점, 데이터가 추후 인공지능 학습에 쓰일 수 있다는 점 등을 알리도록 했습니다.

다만 심리 상담, 치매 환자 안정화 등 챗봇이라는 점을 밝히지 않는 것이 더 유의미한 효과를 가져올 때는 예외로 뒀습니다.

서비스에서 불법·유해 정보가 노출되지 않도록 기술적 방안을 마련하도록 했고, 어린이와 노인, 장애인 등에게도 동등한 접근성을 보장하기 위해 사용자환경(UI) 단순화 및 기능 추가 필요성도 언급했습니다.

아울러 챗봇 서비스 개발과 운영, 활용과정에서 발생할 수 있는 윤리 문제에 대응하기 위해 개발자뿐 아니라 운영자, 이용자에게도 필요한 행동 윤리도 제시했습니다.

KISO는 인공지능 윤리 및 법률이 학계와 법조계에서 논의되고 마련되는 상황에서, 민간기구에서 제작한 첫 챗봇 특화 윤리 가이드라인이라고 의미를 뒀습니다.

가이드라인 작성에는 네이버와 카카오, 심심이, 인공지능 대화형 챗봇 '이루다'를 서비스하는 '스캐터랩', 자연어처리 스타트업 '튜닙' 등 국내 주요 챗봇 개발업체들이 참여했습니다.

[사진 출처 : 연합뉴스]