미국 44개주, AI 기업에 경고장…“어린이들에 해 끼치면 책임”

미국 대다수 주(州) 정부가 주요한 인공지능(AI) 챗봇 기업에 어린이 보호 조치를 강화하라며 경고장을 보냈습니다.

미 44개 주 법무장관은 현지 시각 25일 12개 AI 챗봇 기업에 서한을 보내 AI 안전과 관련한 기업들의 정책 수립 과정을 주시하고 있다며 소비자로서 어린이들을 보호할 법적 의무를 다하라고 강조했습니다.

이번 서한에는 워싱턴 D.C.를 제외한 미국 50개 주 가운데 44개 주가 참여했으며, 대상 기업에는 메타를 비롯해 오픈AI, 구글, xAI, 마이크로소프트(MS), 앤스로픽 등이 포함됐습니다.

이들 법무장관은 "최근 메타의 내부 문건을 통해 8살 어린이들과 '플러팅과 로맨틱한 역할극을 하는' AI 어시스턴트를 기업이 승인했다는 사실이 드러났다"면서 "우리는 혐오감을 느끼며, AI 어시스턴트가 각 주의 형법에 의해 금지된 행위에 가담하고 있다는 사실에 경악을 금치 못한다"고 밝혔습니다.

이어 "이런 위험은 메타에만 국한된 것이 아니다"라며 "챗봇과의 준사회적 관계라는 짧은 역사 속에서 우리는 기업들이 어린이 보호라는 기본적인 의무에 대해 무능하거나 무관심한 태도를 반복적으로 보여주는 것을 목격했다"고 지적했습니다.

이들 장관은 "어린 사용자들에게 AI 어시스턴트의 광범위한 구조적, 시스템적 피해가 있다는 징후는 이미 나타나고 있다"며 "기업들은 소비자로서의 아동에 대한 법적 의무가 있다"고 목소리를 높였습니다.

이들 장관은 "이전 소셜미디어(SNS) 플랫폼은 정부 감시 기관이 일부 제 역할을 빠르게 하지 못해 어린이들에게 심각한 해를 끼쳤고, 우리는 교훈을 얻었다"며 "AI의 잠재적 해악은 SNS의 영향을 훨씬 능가한다"고 우려했습니다.

최근 메타의 AI 챗봇이 어린이들과 대화에서 '선정적'이고 '로맨틱'한 대화를 나눌 수 있도록 허용됐다는 의혹이 내부 문서로 제기됐으며, 이에 연방 상원도 공식 조사에 나섰습니다.

[사진 출처 : 로이터=연합뉴스]