기업의 값비싼 인공지능(AI) 계정과 클라우드 컴퓨팅 자원을 겨냥한 해킹 공격이 기승을 부리고 있다.

27일(현지시간) 파이낸셜타임스(FT) 보도에 따르면 구글 위협분석그룹의 존 헐트퀴스트 수석 분석가는 올해 들어 다크웹 등 음성적인 경로를 통해 AI 시스템 접근 권한이 불법 유통되거나 제3자의 연산 능력을 가로채는 범죄가 급증했다고 경고했다.

이른바 'LLM 재킹'으로 명명된 대형언어모델(LLM) 탈취 수법은 단순한 금전적 이득을 넘어 국가 간 첩보전이나 무력 분쟁에도 동원되고 있다. 구글 위협분석그룹이 파악한 바에 따르면 오픈AI와 앤트로픽, 구글 등 선도 기업들의 AI 서비스 이용권이 다크웹에서 최고 97%까지 할인된 가격에 거래되고 있는 것으로 나타났다. 정가 기준 한 달에 최대 200달러(약 28만원)를 호가하는 구독권이 불과 몇 달러 수준에 유통되는 것이다.

특히 음성 시장의 유통업자들은 적발로 인해 계정 접속이 끊기더라도 추가 비용 없이 대체 계정을 즉각 발급해 주는 이른바 '접속 보장' 서비스까지 영업 수단으로 활용하고 있다. AI 개발사들이 비정상적인 접근을 실시간으로 모니터링하며 차단에 나서고 있음에도 이를 비웃듯 영업을 이어가는 모양새다.

국가적 배후를 둔 해킹 그룹이나 대형 범죄 조직이 타사의 클라우드 망에 침투해 독자적인 AI 모델을 학습시키는 정황도 포착됐다. 헐트퀴스트 수석 분석가는 과거 미국을 상대로 사이버 공작을 펼쳤던 중국 스파이 조직 역시 이러한 클라우드 자원 탈취에 가담한 흔적이 발견됐다고 전했다. 방어 체계를 구축하는 기업보다 이를 뚫는 해커 측이 훨씬 낮은 비용으로 AI 토큰을 확보하게 됨으로써 범죄의 경제적 수익성이 오히려 높아지는 기형적 구조가 만들어진 셈이다.

그는 현존하는 사이버 위협 세력 대다수가 이미 공격 수단에 AI 기술을 접목하고 있다고 진단했다. 아울러 "AI의 위협을 일시적인 트렌드로 가볍게 여기며 안일하게 대처하는 이들은 걷잡을 수 없는 피해를 입게 될 것"이라며 전례 없는 규모와 빈도의 사이버 공격이 닥쳐올 수 있음을 경고했다.

무엇보다 각 기업이 앞다퉈 독자적인 AI 인프라 구축에 나서는 현시점이 해커들에게는 내부망에 숨어들 최적의 기회로 지목됐다. 시스템 초기 구축 과정에서는 연산 처리량이 갑작스럽게 급증하더라도 이를 자연스러운 현상으로 오인해 외부 침입을 감지하기 어렵다.