‘나는’ 인공지능…가이드라인은 언제쯤?

■ 유럽연합에 이어 UN도 인공지능 '규제'

인공지능이 사람 목소리 샘플 15초 분량만으로 동일한 음성을 만들어내고 텍스트만 쳐도 동영상으로 만들어줍니다. 그야말로 비약적인 발전입니다.

발전 속도가 빠른 만큼 부작용도 커지고 있습니다.
지난달, 유럽의회에서 유럽연합(EU)이 세계 최초로 마련한 포괄적 인공지능(AI) 규제법이 가결됐습니다. 일부 금지 조항은 6개월 후부터 적용되며 이후 단계적으로 도입돼 2026년 이후 전면 시행됩니다.

최종 법안을 EU는 AI 활용 분야를 단계별로 나눠 규제합니다. 우선 고위험 등급으로 분류되는 의료, 교육을 비롯한 공공 서비스나 선거, 핵심 인프라, 자율주행 등에서 AI 기술 사용 시 사람이 반드시 감독하도록 하고 위험관리시스템을 구축해야 합니다.

특히 주목할 만한 내용은 범용 AI(AGI·사람과 유사한 수준 또는 그 이상의 지능을 갖춘 AI)를 개발하는 기업에 대해서는 '투명성 의무'를 부여하기로 했다는 겁니다. 관련 조항은 2021년 발의된 초안에는 없었지만, 이듬해 챗GPT 등 생성형 AI 등장으로 AI 오남용에 대한 우려가 확산하면서 입법 과정에서 추가됐습니다.

또 AI 업체들은 EU 저작권법을 반드시 준수해야 하며, AI의 학습 과정에 사용한 콘텐츠를 명시해야 하고 생체인식 식별 시스템 사용 등 일부 AI 기술 활용은 원천 금지됩니다.

이어 유엔(UN)에서도 AI의 안전한 사용에 대해 결의했습니다. 유엔(UN) 회원국들이 인공지능(AI)의 안전한 사용에 관한 국제적인 합의를 시급히 마련해야 한다는 내용입니다. 딥페이크 등 부작용은 최소화하는 동시에 저개발국도 AI의 긍정적 효과를 누릴 수 있도록 하자는 게 핵심이며 국제사회가 유엔총회 차원에서 AI 관련 결의를 공식 채택한 것은 처음입니다.

이번 결의는 AI 개발과 사용이 가속화 하고 있다는 점을 인식하고, 안전하고 신뢰할 수 있는 AI 시스템에 관한 글로벌 합의의 시급성을 반영한 결과입니다. 국제법상 구속력은 없습니다만 만장일치로 회원국이 찬성했다는 점에서 의미가 큽니다.

■ 국내에서도 인공지능법 쏟아졌지만 '지지부진'…시민단체 "AI 사전 검증 포함돼야"

국내에서도 인공지능 관련 법안이 발의됐습니다. 국회 의안정보시스템을 보면 모두 13건에 이릅니다.

그런데 아래 그림과 같이 '위원회 심사' 문턱을 넘지 못하고 있습니다. ' AI 산업 육성과 신뢰성·안전성 확보 내용을 골자로 한 AI 법안' 등은 지난해 2월, 국회 과학기술정보방송통신위원회 정보통신방송법안심사소위를 통과하고도 사실상 1년 넘게 멈춰 있습니다.

이대로라면 다음 달 말까지인 21대 국회 임기 내 처리되지 못한 채 폐기될 가능성이 큽니다.

국회 의안정보시스템 홈페이지(assembly.go.kr) 중

이렇게 처리가 지지부진한 건 법안 내용 때문입니다. 기존 '지능정보화기본법'과 내용이 유사하다며 중복해서 제정할 필요가 있느냐는 지적도 있고, 무엇보다 '우선 허용·사후 규제'라는 내용에 대해 입장 차이가 존재합니다.

해당 법안을 두고 시민단체 등은 전면 재검토를 요구하며 반대 의견서를 제출했습니다.

시민단체는 의견서에서 '우선 허용·사후 규제 원칙'을 제시하는 것은 위험하다며 인공지능 분야 관련 법을 제정하려면 산업 진흥뿐만 아니라 인공지능이 인권과 안전에 미칠 수 있는 영향과 위험성까지 고려해야 한다고 주장했습니다.

인터뷰 중인 허진민 참여연대 공익법센터 소장

허진민 참여연대 공익법센터 소장은 "국민의 인권과 안전에 관련된 부분에서 인공지능 기술이 적용될 때 그 부분이 확보됐는지 충분히 조치가 이루어진 다음에 기술이 적용돼야 한다고 생각한다"고 말했습니다.

허진민 소장은 산업 육성이라는 측면에서도 "미국이나 유럽에서 인공지능기술에 맞는 안전성 조처를 하지 않으면 판매할 수 없다"며 "국내에서는 규정 없이 인공지능 관련 서비스가 개발된다고 해도 판매조차 어려울 수 있다"고 강조했습니다.

■ '뜨거운 감자' 인공지능…사회적 논의 거쳐 규제 영역 나눠야

인터뷰 중인 유창동 카이스트 교수

유창동 카이스트 교수는 산업 발전을 위해 무조건인 규제를 할 수 없다면서도 "인공지능에 모든 것을 맡기고 진행할 수 있는 사업도 없고 모든 것이 허용된다면 문제가 커질 수 있다"며 "인공지능 분야를 기업 관점에서만 보는 것이 아니라 시민의 관점, 정부의 관점 등 다양한 관점에서 바라보고 논의해야 한다"고 설명했습니다.

유 교수는 해외 규제 움직임에 대해서도 "인공지능 기술은 누구나 쓸 수 있어 한 번 공개되면 돌이킬 수 없게 되니까 규제해야 한다"며 "해외에서도 이 기술이 우리에게 도움이 될 수 있도록 잘 바꿔 나가야 한다고 생각하는 것"이라고 분석했습니다.

그러면서 "제도를 만들기 전에 다양한 분야 전문가와 기업, 정부 등의 협의와 사회적 논의 과정이 필수적"이라며 "발생할 수 있는 문제점을 사전에 파악해 개선방안까지 마련한 뒤 적용하는 것이 맞다."라고 재차 강조했습니다.

허진민 소장도 "규제에 대해 산업계, 학계, 시민단체의 의견을 듣고 사회적으로도 충분한 합의를 이뤄 법안이 발의되고 통과돼야 한다"고 말했습니다.

최근 개인정보보호위원회가 거대언어모델인 LLM를 개발하거나 인공지능 서비스를 제공하는 사업자에 대해 실태 점검에 나서 개인정보 보호 취약점을 개선하라고 권고하기도 했지만, 발전 속도에 비하면 국내 대응은 미비합니다.

인공지능이 인류를 멸종시킬 수준의 위협이 될 수 있다는 분석까지 나오고 있습니다. 막연한 공포를 느낄 필요는 없지만, 도대체 어느 정도의 위협이 될지 예측조차 불가능한 게 사실입니다. 현대판 '도깨비 방망이' 인공지능에 대한 논의가 22대 국회에서 어떻게 진행될지 관심입니다.