EU, 세계 첫 ‘AI법’ 가결…위반시 매출 7%까지 과징금

[앵커]

["한 개뿐이야, 달디단 밤양갱."]

최근 음원차트를 휩쓴 비비의 밤양갱입니다.

그런데, 박명수 씨가 이 곡 때문에 깜짝 놀랐다고 하는데요.

바로 이 목소리 때문입니다.

[박명수 AI 커버 '밤양갱' : "한 개뿐이야, 달디단 밤양갱."]

박명수 씨가 따라 부른 것 같지만 '딥보이스 기술'로 만든 'AI 커버곡'입니다.

딥러닝으로 가수의 목소리를 익히게 해 그 소리로 노래를 만들어냅니다.

가짜 이미지를 만드는 딥페이크 기술에, 가짜 음성을 만드는 기술까지…!

이렇게 발전된 기술을 재미로만 즐기기엔 저작권 문제, 이를 악용한 범죄가 우려되는데요.

이 때문에 'AI 규제법'에 대한 논의가 있어 왔는데요.

유럽연합이 세계 최초로 마련한 AI 규제법이 유럽의회 본회의를 통과했습니다.

파리 안다영 특파원입니다.

[리포트]

유럽에서 인공지능 AI가 법의 규제를 받게 됐습니다.

유럽의회는 현지시각 13일 열린 본회의에서 세계 최초로 AI를 규제하는 법안을 가결했습니다.

최종안은 AI 활용 분야를 네 단계의 위험 등급으로 나눠 차등 규제하는 내용을 담고 있습니다.

고위험 등급으로 분류되는 의료, 교육을 비롯한 공공 서비스나 선거, 자율주행 등에서 AI 기술을 사용할 경우, 사람이 반드시 감독하고 위험관리시스템을 구축해야 합니다.

2021년 발의된 초안에는 없었지만 챗GPT 같은 생성형 AI 등장으로 AI 오남용 우려가 커지며 추가된 내용도 있습니다.

이런 고도의 지능을 갖춘 범용 AI를 개발하는 기업은 EU 저작권법을 반드시 준수해야 하며 AI의 학습과정에 사용한 콘텐츠를 명시해야 합니다.

AI를 활용한 실시간 원격 생체인식 식별 시스템 사용도 사실상 금지됩니다.

테러 같은 강력 범죄자 추적 등 예외적인 경우에 일부 허용되지만 이 경우에도 법원의 사전 허가를 받아야 합니다.

이 밖에 딥페이크 영상이나 이미지는 AI로 만든 조작 콘텐츠라는 점을 표기하도록 했습니다.

또 다양한 데이터를 모아 개인을 평가하는 이른바 '소셜 스코어링' 기술 활용은 원천 금지됩니다.

법을 위반할 경우 전 세계 매출의 1.5%에서 최대 7%에 해당하는 과징금을 물 수 있습니다.

[티에리 브르통/EU 집행위원/지난해 12월 : "우리 시민들이 원하는 신뢰할 수 있는 AI를 놓고 유럽 스타트업과 연구자들이 글로벌 경쟁을 주도할 수 있는 발판을 마련했습니다."]

이번 최종안은 다음달 EU 27개국 장관들의 최종 승인을 거쳐 연말쯤부터 일부 조항부터 단계적으로 시행될 예정입니다.

파리에서 KBS 뉴스 안다영입니다.

영상편집:한미희/그래픽:최창준/자료조사:최정윤