과기정통부 “인공지능 악용한 보안 위협, 대응 역량 갖출 것”

과학기술정보통신부가 챗GPT 등 생성형 인공지능(AI)을 악용한 보안 위협에 대한 대응을 본격적으로 모색하기로 했습니다.

과기정통부는 오늘(13일) 서울 송파구 이글루코퍼레이션에서 토론회를 열고 생성형 인공지능을 악용한 보안 위협 동향을 공유하고 대응 방향을 논의했습니다.

챗GPT는 언어 처리 인공지능 모델을 기반으로 하는 대화형 AI 서비스로, 지난해 11월 출시 이후 약 두 달 만에 월간 이용자가 1억 명을 돌파하는 등 전례 없는 급격한 성장세를 보이고 있습니다.

그러나 최근 챗GPT를 악용해 악성코드, 랜섬웨어, 피싱 메일 제작 등 사이버 공격에 활용할 가능성이 대두되고, 챗GPT 이용 과정에서 개인정보 및 기업의 영업 기밀 정보가 유출되는 등 크고 작은 보안 문제가 제기되며 우려의 목소리가 커지고 있습니다.

김정희 한국인터넷진흥원(KISA) 미래정책연구실장은 “생성형 AI 등장으로 고도의 해킹 기술이 필요한 분야의 진입장벽이 낮아지며 침해 사고 피해 규모도 기하급수적으로 늘어날 것”이라며 “최근에는 보안 패치가 아직 적용되지 않은 취약점을 AI가 빠르게 찾아내 공격할 우려도 커지고 있다”고 강조했습니다.

김 실장은 “지금 보안 업계 상황은 AI 기술을 악용해서 발생하는 공격과 AI를 활용해서 방어하는 기술 간에 끊임없는 공방전이 일어나는 것과 같다”면서 “국내 침해사고 대응 체계를 어떻게 유기적으로 적용해갈지 협력 네트워크가 필요하다”고 덧붙였습니다.

정일옥 이글루 코퍼레이션 연구위원은 “아직 사이버 팬데믹은 오지 않았고 만약 온다면 AI가 그 시발점이 될 것이라는 이야기가 있다”면서 “오픈AI 같은 초거대 AI 서비스 제공 업체가 해킹당할 가능성도 있다”고 경고했습니다.

박환석 KT 상무는 “생성 AI에 대한 사내 관심이 높아 마이크로소프트와 KT 전용 GPT 공간을 활용하는 방안을 협력 중인데, 암호화된 기업·개인 정보를 해제해야 하는 부담이 있다”면서 “암호화된 상태로 학습시키는 방안에 대한 전문 보안업체와 함께 고민할 것”이라고 발표했습니다.

박윤규 과기정통부 2차관은 “챗GPT 등 생성형 인공지능 기술은 앞으로 더욱 발전해 우리 일상에 폭 넓게 사용될 것인 만큼 보안 위협 우려에 적극적으로 대응해 나갈 필요가 있다”며 “갈수록 지능화‧고도화되는 사이버위협에 대한 대응역량을 갖추기 위해 최선을 다하겠다”고 말했습니다.

[사진 출처 : 연합뉴스 / 과학기술정보통신부 제공]