미 백악관 ‘AI 정책’ 첫 발표…“기업들 ‘AI가 제작’ 표시 약속”

[앵커]

생성형 AI, 즉 인공지능이 만든 사진과 영상에 대한 허위 정보 우려가 커지고 있죠.

미 백악관이 생성형 AI가 만든 제품에 'AI가 제작했다'는 표시로 워터마크를 넣겠다고 밝혔습니다.

구글, 오픈 AI 등 미국의 기술 기업 7곳이 백악관이 내놓은 AI 규제에 참여합니다.

워싱턴 김양순 특파원의 보도입니다.

[리포트]

미국 국방부 청사인 펜타곤 부근에서 검은 연기가 치솟는 이 사진.

미 국방부 피격 소식이 소셜미디어에서 빠르게 전파되며 금융시장까지 출렁였습니다.

알고 보니 생성형 인공지능이 만든 가짜 사진이었습니다.

이렇게 생성형 인공지능이 발달할수록 진짜 같은 가짜, 딥 페이크를 구분해내기는 사실상 어려워집니다.

미 백악관은 구글과 마이크로소프트 등 AI 개발을 선도하고 있는 기업 7곳이 인공지능에 대한 안전장치를 만드는 데 합의했다고 밝혔습니다.

우선 딥 페이크로 알려진 정교한 가짜 이미지가 AI에 의해 제작됐다는 것을 알리는 디지털 제작표시, 워터마크를 의무화하기로 했습니다.

[미 백악관 고위 당국자 : "미국인들은 이제 어떤 콘텐츠가 AI에 의해 생성된 건지를 구분할 수 있게 됩니다. 기술적으로는 다 준비됐습니다. 여기서 핵심은 음성과 영상에 모두 워터마크가 적용된다는 겁니다."]

AI 제품을 공개하기 전에 시스템과 보안 기능을 공개하고, 인공지능 기술의 결함과 위험도 공개 보고하도록 했습니다.

지난 5월 바이든 미 대통령이 AI 기업 대표들과 회의를 연 뒤 백악관이 처음으로 내놓은 구체적인 대책입니다.

[조 바이든/미국 대통령 : "이번 조치들은 실질적인 동시에 구체적입니다. 안전하고 신뢰받는 기술 개발이라는 미국의 근본적 의무를 업계가 수행하는 데 도움을 줄 것입니다."]

다만 이번 규제 발표는 의회 입법 없이 기업들이 자발적 참여를 약속한 것으로 법적인 강제성은 없습니다.

백악관은 곧 행정명령을 발표할 예정이라며 의회가 인공지능 기술을 제어할 법을 만들고 통과시킬 때까지 몇 년을 마냥 기다릴 순 없다고 밝혔습니다.

한국 등 여러 동맹국들과는 이미 논의를 마쳤다고도 덧붙였습니다.

워싱턴에서 KBS 뉴스 김양순입니다.

촬영기자:오범석/영상편집:장수경/그래픽:여현수 김성일/자료조사:이지은