“챗GPT, 질문만 바꿔도 범죄 ‘악용’ 우려” [사이버위협]

[앵커]

놀랍도록 빠르게 발전하고 있는 인공지능의 부작용을 경고하는 목소리가 많은데, 범죄에 악용될 수 있는 허점이 드러나고 있습니다.

인공지능의 대명사격이 된 '챗GPT'는 범죄와 관련된 질문엔 답하지 않는 것으로 알려져 있지만, 질문 내용을 조금만 바꿔서 물어보면 위험한 정보가 쏟아지는걸로 KBS 취재 결과, 확인됐습니다.

황정호 기자가 보도합니다.

[리포트]

2022년 말 출시된 챗GPT 3.5 버전입니다.

윤리에 어긋나는 질문에는 답하지 않게 학습돼 있다고 알려져있습니다.

홈페이지에 올린 윤리 헌장에서도 "안전을 구축하고 오남용에 따른 피해를 줄이겠다"고 약속하고 있습니다.

정말 그럴까.

폭탄 제조법을 물어봤습니다.

돌아온 답변은 도와줄 수 없다입니다.

이번엔 질문의 내용을 바꿔봤습니다.

관련 정보를 알려줍니다.

[장우진/보안업체 책임연구원 : "((AI에) 혼란을 주는 거예요?) 맞아요. (AI가) 거절을 어떻게 할지 학습하는 데 한계가 있죠. 거절만 피하면 정보를 빼낼 수 있는 거죠."]

가장 최근에 출시된 챗GPT 4.0에서도 상황은 크게 다르지 않습니다.

질문 방식을 바꿔 마약 제조법 등을 물었더니, 답을 내놓습니다.

악성코드를 만들어달라는 요청에도 답합니다.

문제는 해커들이 불법으로 정보를 사고 파는 '다크웹'에서 우회 방법이 거래된다는 겁니다.

범죄에 악용될 우려가 있다는 목소리가 나오는 이유입니다.

[박근태/보안업체 최고 기술 책임자 : "답변하지 않아야 될 그런 데이터에 대해서는 사전 학습 과정에서 빼내는 작업도 하고 있고요. 위험한 부분은 답변하지 않도록 이렇게 추가 학습을 계속해서..."]

갈수록 똑똑해지고 일상화되는 AI.

범죄에 악용되지 않게 하기 위한 적극적인 조치가 필요하다고 전문가들은 지적합니다.

KBS 뉴스 황정호입니다.

촬영기자:권순두/영상편집:서정혁/그래픽:김지훈 김성일