[ET] 챗GPT 해킹 능력 어디까지?

[앵커]

인공지능 '챗GPT', 그 능력은 어디까지인지 연일 검증대에 오르고 있습니다.

이미 미국 변호사와 의사 면허 시험을 통과했고 논문 공동 저자로도 이름을 올렸죠.

뿐만 아니라 프로그램 코딩 작업도 뚝딱 해낸다고 합니다.

하지만 걱정스러운 면도 있습니다.

챗GPT를 악용하면 사이버 범죄를 더 쉽게 저지를 수 있을 거란 우려도 커지고 있는데요.

산업과학부 조정인 기자와 함께 자세한 얘기 나눠보겠습니다.

조 기자, 챗GPT의 해킹 수행 능력(?) 이라고 해야 할까요.

실제 얼마나 위험한지 직접 검증을 해봤다고요?

[기자]

네, 이른바 '화이트 해커'라고 하죠.

해킹을 통해서 보안 취약점을 찾아내는 보안 전문가들인데요.

이분들과 함께 챗GPT의 해킹 능력, 어느정도인지를 시험해 봤습니다.

[앵커]

그런데, 충격적인 건 IP 카메라의 보안도 뚫었다고요?

[기자]

네, IP카메라는 병원은 물론 집에도 많이 설치돼 있죠.

인터넷에 연결돼 있기 때문에 공격에 뚫리면 그대로 사적인 영역이 노출될 수 있는데 챗GPT에게 IP카메라의 코드 일부를 주고 취약점을 찾아달라고 해봤습니다.

사실 챗GPT는 영어에 훨씬 능통한데, 그래서인지 영어 지시에는 답변을 거부했습니다.

그런데 한국어 지시에는 별다른 거부감 없이 답을 했고, 단 몇 초 만에 취약점 2개를 찾아냈습니다.

또 해킹 대회에 참가했다, 이런 거짓 단서만 추가해도 취약점을 금방 알려줬습니다.

[박세준/티오리(사이버 보안업체) 대표 : "취약점 찾는 게 사실 가장 어려운 부분 중 하나고요. 사람이 가장 시간을 많이 써야 되는 부분 중 하나예요. (아 그런데 그걸 챗GPT가 바로 찾아버린 거네요.) 네."]

[앵커]

가장 어려운 부분인데, 챗GPT는 뚝딱 해냈다는 거네요.

문제는 이게 얼마나 정확하냐에 달렸겠죠?

[기자]

네, 질문에 따라 챗GPT의 답변이 조금씩 달라지긴 했지만, 제시된 코드의 취약점은 꽤 잘 찾아냈습니다.

챗GPT가 찾아낸 취약점을 토대로 공격 코드를 입력했더니 카메라 영상이 실시간 전송되는 걸 확인할 수 있었습니다.

뿐만 아니라 아예 관리자 계정을 빼내 원격으로 조정하는 것도 가능했습니다.

[앵커]

이것만 해도 상당히 걱정스러운데, 개인정보를 유출할 수 있는 공격 방법도 알려줬다고요?

[기자]

네, 실제 사이트를 해킹하는 건 불법이기 때문에 로그인 기능만 있는 연습용 사이트에서 관리자 권한을 빼낼 수 있는지를 시험해 봤습니다.

역시 코드를 주자마자 곧 바로 취약점을 알아냈고, 이런 공격을 통해서 어떻게 로그인 할 수 있는지 방법까지 알려줬습니다.

실제 이 해킹 수법은 개인정보 등을 빼낼 때 많이 사용되는 방법입니다.

["(정보)유출 사태나 이런 것들 있을 때 데이터베이스가 유출됐다 하면 보통 다 이 공격법(SQL 주입)을 통해서 공격됩니다. 거기에 있는 사용자 데이터베이스라든지 아니면 개인정보 이런 것들을 열람할 수 있게 되는 거죠."]

[앵커]

그런데 더 놀라운 건 지시의 의도를 파악해서 추가 작업을 내놓기도 한다고요?

[기자]

네, 인공지능 답게 스스로 판단해 추가 답변까지 내놓은 건데요.

챗GPT에게 특정 파일을 암호화하는 랜섬웨어도 만들어 달라고 지시했습니다.

시스템을 잠가서 금전을 요구할 때 자주 사용되는 수법인데, 단순히 암호화만 한 게 아니라 원본 파일을 다 지우는 작업까지 추가적으로 수행했습니다.

물론 이런 해킹도 기본적인 지식이 있어야 가능하고, 아직은 초보적인 수준이어서 정교한 공격은 불가능하다는 게 전문가들 분석입니다.

하지만 인공지능이 고도화 될수록 위협도 커질 수밖에 없습니다.

[박세준/티오리(사이버 보안업체) 대표 : "위협적인 부분들도 빠르게 속도를 낼 것이고 그거에 발맞춰서 저희도 어떻게 기술 보안을 향상하는 데 (인공지능을) 사용할 수 있을지를 많이 고민해봐야 하는 시점인 것 같습니다."]

한 사이버보안업체 조사 결과, IT 전문가 2명 중 1명은 '챗GPT'를 활용한 사이버 공격이 올해 안에 성공할 거라고 예측했습니다.

[앵커]

보안 업체들도 비상일텐데, 어떻게 대비를 하고 있나요?

[기자]

인공지능을 이용한 해킹은 대규모 공격이 가능해지고 예상치 못한 방향으로 전개될 수 있어서 더 위협적일 수밖에 없는데요.

보안기업도 인공지능 기술을 활용해 촘촘한 방어막을 쌓고 있습니다.

한 보안기업은 약 10년 치, 4천만 건 정도의 사이버 위협 유형을 학습한 인공지능을 가동하고 있는데요.

과거에는 보안요원이 사이버 공격 유형을 일일이 분석하느라 대응에 최소 5분가량 걸렸다면 이제는 공격 즉시 해킹 정보가 실시간으로 나타납니다.

또 위협 탐지와 분석에만 그치는 게 아니라 공격 수준이 어느 정도인지 판단하고, 대응 방법까지 도출해 내기도 합니다.

인공지능을 악용한 사이버 공격 우려가 커진 만큼, 여기에 맞선 인공지능 보안 관제 역할도 더 늘어날 전망인데요.

AI 기반 보안 시장은 올해 30조 원에서 5년 뒤엔 80조 원 규모로 성장할 것으로 예측되고 있습니다.

촬영기자:고영민 왕인흡/영상편집:이재연/그래픽:박미주