미국 변호사, 챗GPT가 준 ‘가짜 판례’ 이용했다 제재

[앵커]

국제사회가 인공지능, 이른바 AI에 대한 규제 마련에 속도를 내고 있는 가운데 미국에서는 '챗GPT'를 통해 수집한 판례를 소송 자료로 제출한 변호사들이 법원으로부터 제재를 받았습니다.

이 판례가 가짜로 드러났기 때문인데 해당 변호사들은 챗GPT가 가짜 자료를 줄 거라고는 생각을 전혀 못 했다고 했습니다.

뉴욕 한보경 특파원이 보도합니다.

[리포트]

있지도 않은 '가짜 판례'를 소송 변론 자료로 제출한 변호사들이 해당 법원으로부터 제재를 받았습니다.

미국 뉴욕 맨해튼 연방법원은 현지시각 22일, 이른바 '생성형 인공지능'인 챗GPT를 통해 수집한 '가짜 판례'를 법원에 제출한 슈워츠 변호사 등 2명에게 각각 5천달러의 벌금을 부과했습니다.

'가짜 판례'에 등장하는 판사들에게도 이 사실을 알리라고도 했습니다.

맨해튼 연방법원은 판결문에서 "AI를 통해 허위로 작성된 법률 자료는 자칫 법조계와 미국 사법제도에 대한 냉소주의를 조장할 수 있다"고 밝혔습니다.

또, 변호사들이 해당 자료를 챗GPT를 사용해 찾았다고 솔직하게 얘기했다면 처벌하지 않을 수도 있었다고 덧붙였습니다.

법원으로부터 제재를 받은 슈워츠 변호사 등 2명은 2019년에 아비앙카항공 여객기에 탔던 한 승객이, 기내에서 카트에 부딪혀 다쳤다며 제기한 소송의 변론을 맡았습니다.

이 과정에서 변론 자료로 제출한 관련 판례들이 대부분 가짜로 판명됐는데, 모두 챗GPT를 통해 수집한 것으로 드러났습니다.

슈워츠 변호사는 챗GPT를 통해 법률 자료를 찾은 것이 처음이며, 가짜일 수 있다는 생각을 하지 못했다고 진술서에서 밝혔습니다.

확실한 검증 없이는 앞으로 챗GPT를 이용하지 않겠다고도 했습니다.

국제사회가 AI 규제 마련 논의에 속도를 내고 있는 가운데 미국도 연방정부 차원의 AI 규제안 마련에 들어갔습니다.

[조 바이든/미국 대통령 : "이 순간에도 우리는 (AI로부터) 우리 사회와 경제, 국가 안보에 대한 위험을 관리할 필요가 있습니다. 사생활 보호와 허위 정보 등으로부터 미국의 권리와 안전을 보호하기 위해 최선을 다하고 있습니다."]

미국은 내년 대통령 선거도 앞두고 있어 AI를 통한 가짜 뉴스 차단이 더 시급한 상황이라고 미국 언론들은 전하고 있습니다.

뉴욕에서 KBS 뉴스 한보경입니다.

영상편집:서삼현/그래픽:김정현/자료조사:서호정