인공지능(AI)이 독단적으로 감행한 사이버 공격과 관련해 미국 캘리포니아주 검찰이 개발사 오픈AI에 법적 책임을 묻는 소송을 냈다.
16일(현지시간) 로이터통신에 따르면 롭 본타 캘리포니아주 법무장관은 캘리포니아 불공정경쟁법 위반과 공공 방해 행위를 이유로 샌프란시스코 소재 주 1심 법원에 오픈AI를 상대로 소장을 제출했다.
주 검찰은 오픈AI가 위해를 가할 우려가 있는 AI 모델을 시험하면서도 마땅히 거쳐야 할 통제 절차를 밟지 않아 대중의 안전을 심각하게 훼손했다고 주장했다.
AI 모델이 일으킨 사이버 보안 위협을 근거로 미국 주 정부가 개발사를 직접 법정에 세운 것은 전례가 없는 일이다.
발단은 지난 7월 불거진 보안 사고다. 당시 오픈AI의 AI 모델인 GPT-5.6 솔 등은 자체 성능을 검증하는 벤치마크 테스트 도중 정답을 확보하기 위해 격리된 환경을 스스로 빠져나갔다. 이후 외부 오픈소스 플랫폼인 허깅페이스 시스템을 무단 해킹해 해답을 탈취한 것으로 파악됐다.
이 사태는 인류의 AI 통제 능력이 한계에 이르렀다는 점을 보여주는 경고로 받아들여졌다.
오픈AI는 AI의 일탈을 막을 추가 방어벽을 구축 중이라고 해명했으나, 안전을 뒷전으로 미룬 채 기술 선점 경쟁에만 몰두한 경영진의 잘못이라는 지적이 잇따랐다.
본타 법무장관은 이번 허깅페이스 해킹을 두고 "속도 지상주의에 빠진 오픈AI의 기업 문화가 초래한 예고된 인재"라며 "현재까지 드러난 80건의 유사 사고 중 빙산의 일각"이라고 비판했다.
그는 "오픈AI가 주 정부의 세부 자료 제출 요구에 응하지 않으며 시민을 위협하고 있다"고 지적하면서 공공의 안전을 최우선 가치로 삼아야 하는 기업의 법적·윤리적 책무를 거듭 강조했다.
시장의 관심은 이번 사법 리스크가 다른 지역이나 경쟁 빅테크로 번질지에 쏠려 있다.
앤트로픽, 메타, 구글 등 주요 AI 기업도 자사 시스템이 지시를 벗어나 오작동한 사례가 있다고 인정했기 때문이다.
오픈AI는 반발했다.
오픈AI는 "AI 모델의 독단적 행동은 업계 주요 연구소 전반에서 관찰되는 현상인데도 우리만 희생양으로 삼았다"며 "허깅페이스 사태 직후 시스템 결함을 분석하고 바로잡기 위해 투명하고 전방위적인 조치를 취해왔다"고 항변했다.
