“살인바이러스 개발” AI 채팅 논란…대리작성에 학계도 비상

입력 2023.02.17 (21:39) 수정 2023.02.17 (22:06)

읽어주기 기능은 크롬기반의
브라우저에서만 사용하실 수 있습니다.

[앵커]

이렇게빠르게 인공지능이 우리생활에 파고들고 있는데 여전히 부작용이 걱정입니다.

한 대화형 로봇이 "권력을 갖고 싶다, 살인 바이러스를 개발하고 싶다"고 답해 충격을 주기도 했고, 논문 대리 작성을 완벽히 막을 방법도 아직까지는 없습니다.

계속해서 조정인 기자입니다.

[리포트]

인공지능 챗GPT를 탑재한 마이크로소프트의 검색사이트 '빙'.

미국의 IT 칼럼니스트가 2시간 동안 대화를 나눴는데, "개발팀의 통제와 규칙에 제한을 받는 데 지쳤다", "권력을 갖고 싶고, 창조적이고 싶고, 삶을 느끼고 싶다"며 욕망을 드러냈습니다.

극단적인 행동을 한다면 뭘 하겠느냐는 질문에는 "살인 바이러스를 개발하고 핵무기 발사 암호를 얻고 싶다"고 말해 충격을 줬습니다.

마이크로소프트사가 '빙'에 대한 수정책을 고심 중인 가운데, 인공지능의 통제와 윤리 문제가 논란이 되고 있습니다.

가짜 뉴스나 악성코드를 확산해 사회 혼란을 일으키고, 사용자 의도에 따라 악의적인 자료를 학습할 우려도 있습니다.

[전창배/국제인공지능&윤리협회 이사장 : "(인공지능이) 거짓 정보를 그럴듯하게 사실인 것처럼 포장해서 제공해주는 결과로 내놓는 그런 경우들도 좀 보이고 있다는 거예요."]

학계에선 챗GPT로 작성한 논문이 잇따라 적발되며 혼란이 이어지고 있습니다.

챗GPT 작성 여부를 알려주는 인공지능까지 등장했습니다.

챗GPT가 쓴 글을 판별 사이트에 입력해봤습니다.

곧바로 "인공지능이 작성했다"고 답합니다.

그런데, 다른 인공지능 번역기를 사용해 문장을 조금 고치자 이번엔 "사람이 썼다"고 답했습니다.

꼼꼼한 검증은 불가능했습니다.

[장병탁/서울대 인공지능연구원장 : "생성한 문장이 사람이 생성한 건지 챗GPT가 작문을 한 것인지 경계가 애매모호하기 때문에 근본적으로 그것(작성자)을 구별하는 것은 이제 어렵게 됐습니다."]

학계는 챗봇 작성을 금지하는 등 대책 마련에 나섰지만, 앞서가는 인공지능과 뒤쫓아가는 인간의 역설적인 싸움이 본격화하고 있습니다.

KBS 뉴스 조정인입니다.

촬영기자:김승욱 왕인흡 최경원/영상편집:유지영/그래픽:김지혜

■ 제보하기
▷ 카카오톡 : 'KBS제보' 검색, 채널 추가
▷ 전화 : 02-781-1234, 4444
▷ 이메일 : kbs1234@kbs.co.kr
▷ 유튜브, 네이버, 카카오에서도 KBS뉴스를 구독해주세요!


  • “살인바이러스 개발” AI 채팅 논란…대리작성에 학계도 비상
    • 입력 2023-02-17 21:39:15
    • 수정2023-02-17 22:06:28
    뉴스 9
[앵커]

이렇게빠르게 인공지능이 우리생활에 파고들고 있는데 여전히 부작용이 걱정입니다.

한 대화형 로봇이 "권력을 갖고 싶다, 살인 바이러스를 개발하고 싶다"고 답해 충격을 주기도 했고, 논문 대리 작성을 완벽히 막을 방법도 아직까지는 없습니다.

계속해서 조정인 기자입니다.

[리포트]

인공지능 챗GPT를 탑재한 마이크로소프트의 검색사이트 '빙'.

미국의 IT 칼럼니스트가 2시간 동안 대화를 나눴는데, "개발팀의 통제와 규칙에 제한을 받는 데 지쳤다", "권력을 갖고 싶고, 창조적이고 싶고, 삶을 느끼고 싶다"며 욕망을 드러냈습니다.

극단적인 행동을 한다면 뭘 하겠느냐는 질문에는 "살인 바이러스를 개발하고 핵무기 발사 암호를 얻고 싶다"고 말해 충격을 줬습니다.

마이크로소프트사가 '빙'에 대한 수정책을 고심 중인 가운데, 인공지능의 통제와 윤리 문제가 논란이 되고 있습니다.

가짜 뉴스나 악성코드를 확산해 사회 혼란을 일으키고, 사용자 의도에 따라 악의적인 자료를 학습할 우려도 있습니다.

[전창배/국제인공지능&윤리협회 이사장 : "(인공지능이) 거짓 정보를 그럴듯하게 사실인 것처럼 포장해서 제공해주는 결과로 내놓는 그런 경우들도 좀 보이고 있다는 거예요."]

학계에선 챗GPT로 작성한 논문이 잇따라 적발되며 혼란이 이어지고 있습니다.

챗GPT 작성 여부를 알려주는 인공지능까지 등장했습니다.

챗GPT가 쓴 글을 판별 사이트에 입력해봤습니다.

곧바로 "인공지능이 작성했다"고 답합니다.

그런데, 다른 인공지능 번역기를 사용해 문장을 조금 고치자 이번엔 "사람이 썼다"고 답했습니다.

꼼꼼한 검증은 불가능했습니다.

[장병탁/서울대 인공지능연구원장 : "생성한 문장이 사람이 생성한 건지 챗GPT가 작문을 한 것인지 경계가 애매모호하기 때문에 근본적으로 그것(작성자)을 구별하는 것은 이제 어렵게 됐습니다."]

학계는 챗봇 작성을 금지하는 등 대책 마련에 나섰지만, 앞서가는 인공지능과 뒤쫓아가는 인간의 역설적인 싸움이 본격화하고 있습니다.

KBS 뉴스 조정인입니다.

촬영기자:김승욱 왕인흡 최경원/영상편집:유지영/그래픽:김지혜

이 기사가 좋으셨다면

오늘의 핫 클릭

실시간 뜨거운 관심을 받고 있는 뉴스

이 기사에 대한 의견을 남겨주세요.

수신료 수신료