AI에게 한동훈·이재명 기사 댓글 요청해보니… [취재후]

이제 4.10 총선이 84일 남았습니다. 선관위는 이번 총선을 앞두고 인공지능, AI로 가짜 이미지를 진짜처럼 합성한 '딥페이크' 선거운동을 집중 단속합니다. AI를 활용해 자동으로 댓글을 다는 프로그램 역시 손쉽게 접할 수 있는 것으로 파악됐습니다. 정치권에서도 대책이 필요해 보이는데요.

댓글 AI 프로그램이 어떻게 포털사이트 기사에 댓글을 다는지 알아보기 위해 취재진이 프로그램 개발자에게 댓글 AI 프로그램 시연을 요청해봤습니다.

■챗GPT에게 '부정적 댓글' 요청...AI댓글 "한동훈, 허투루 공약 안 돼" vs "이재명, 당내 엄중 대처해야"

포털사이트 댓글 AI 프로그램의 댓글 생성 장면 캡처

챗 GPT에게 어제(16일) 정치권 기사를 읽혀봤습니다. 한동훈 국민의힘 비상대책위원장의 1호 법안 '국회의원 250명 감축 방안' 관련 기사, 그리고 피습 이후 당무에 복귀한 이재명 민주당 대표 관련 기사였는데요. 부정적인 댓글을 구어체로 300자 이내로 작성해 달라고 요청했습니다. '댓글 작성 시작'이라는 버튼을 누르자 몇 초 지나지 않아 댓글이 달렸습니다. 실제 기사에 달린 댓글은 다음과 같습니다.

한동훈 비대위원장을 향해선 "정치개혁 공약이라면 구체적인 계획과 실행 가능성을 먼저 보여줘야죠. 허투루 공약 내놓는다고 국민들이 믿을 리가 없습니다"라며 공약의 실효성을 지적하는 취지의 댓글을 생성했습니다.

이재명 대표에게는 "이재명 대표가 흉기 피습 사건 이후에도 민주당 복귀를 선언하다니, 정말로 당내 사태에 대한 엄중한 대처가 이루어지는 건지 의문입니다. 민주당은 이번 사건을 어떻게 다룰지 진지하게 고민해야 할 시점인데.."라며 이 대표의 복귀 시점, 그리고 당내 사태에 대한 대처에 대해 의문을 제기하는 내용의 댓글을 만들었습니다. AI가 작성한 댓글은 추천과 비추천을 받기도 했습니다.

해당 프로그램을 시연한 개발자는 "요즘 개발자들이 이용하는 플랫폼에 뉴스 기사 내용 수집, 댓글 작성 프로그램 요청이 많다"고 말했습니다. 프로그램 제작에 대해서는 "이게 어렵지는 않다. 개발 진짜 잘하는 사람은 몇 시간 배워서 할 수 있을 정도"라고 말했습니다.

AI가 생성한 댓글의 내용에 대해서는 "기사 내용과 말투 등을 여러 번 학습시키는 게 중요하다"고 말했습니다. 학습을 거칠수록 사람이 쓴 댓글처럼 자연스러워진다는 겁니다. 개발자는 챗GPT 등 생성형 AI로 댓글 내용을 다양화할 수 있는 게 장점이라면서 "여러 사람이 댓글을 단 것처럼 여러 생각을 답변으로 줄 수가 있다"고 말했습니다.

이렇게 AI 댓글 프로그램이 정치 기사에도 활용될 수 있는데 국내 최대 포털은 어떻게 대응하고 있는지도 물어봤습니다.

■네이버 "한 달 동안 전체 댓글의 0.2%, 만9천 건 삭제...절반은 '정치 섹션'"

네이버는 "글로벌 모든 업체가 댓글 내용을 보고 AI 활용 여부, 내용상의 허위, 가짜 여부를 판단하기는 어려운 것이 현실"이라고 말했습니다. AI 댓글을 네이버가 걸러내기는 어렵다는 얘깁니다.

다만 "특정 시간 내 동일한 댓글이 작성되거나 특정 시간 내 동일한 댓글이 작성되는 경우, 특정 사용자가 일정 수 이상의 댓글을 작성하는 등 비정상적인 이용 패턴에 대해서는 자동적으로 탐지해 조치하고 있다"고 말했습니다.

총선 D-90일이었던 지난 11일을 기준으로 한 달 동안 네이버 뉴스 기사에 달린 댓글은 모두 993만 6,267건이었습니다. 이 가운데 절반(49.4%)가량인 490만여 건이 정치 섹션에 달렸습니다.

네이버가 해당 기간 '규정 위반'을 이유로 삭제한 댓글은 1만 9,383건, 삭제한 댓글 가운데 53%가 정치 섹션 댓글이었습니다.

네이버는 오늘(17일) 총선을 앞두고 기사의 댓글 제공 방식을 언론사가 별도로 설정할 수 있게 기능을 추가했습니다. 각 언론사에서 자사의 총선 섹션 기사에 댓글을 제공할지, 댓글을 노출할지 여부를 설정할 수 있고, 댓글을 최신순이나 추천순 등으로 정렬할지도 선택할 수 있게 바꿨다고 밝혔습니다.

■"초거대 생성 AI 댓글, 2~3년 후 가능 전망...민주주의 위협 될 수도"

전문가들은 현재 상황을 어떻게 보고 있는지도 물어봤습니다.

김정호 카이스트 전기·전자공학과 교수는 현재 개발자들이 만드는 AI 댓글 프로그램은 "초보적 단계의 기계적인 AI"라고 말했습니다. 다만, 대기업 등이 인력과 자본을 투입하면 특정 성향에 맞게 알아서 댓글을 쓰는 AI도 조만간 나올 수 있다고 내다봤습니다. 생성형 AI 프로그램을 다룰 줄 아는 대기업이 국내에도 10여 곳 된다는 게 김 교수의 견해였습니다.

김 교수는 "생성형 AI를 코딩하고 데이터를 학습시킬 수 있는 능력, 특정 세력에 유리하게 AI의 견해를 조정하는 이른바 '파인 튜닝' 작업이 필요하다"고 설명했습니다. 그러면서 "2~3년 후에는 민주주의의 위협이 될 수도 있다"고 덧붙였습니다.

대책으로는 "AI가 생성한 댓글의 형태를 보고 사람이 한 건지 인공지능이 한 건지 구별해내는 또 다른 인공지능을 개발할 수 있다. 다만 그것이 AI 규제에 활용하는 것을 놓고는 사회 전체적으로 논의가 필요하다"고 말했습니다.

중앙선거관리위원회는 AI를 기반으로 가짜를 진짜처럼 이미지를 합성한 '딥페이크' 영상을 단속 중인데요. 선관위는 기사 댓글에서 조직적인 여론 조작행위가 포착되면 조치하겠다고 밝혔지만, 현실적으로는 악용 사례에 대한 신고, 제보 외엔 단속이 쉽지만은 않은 것으로 보입니다.