기업공개(IPO)를 추진 중인 미국 인공지능(AI) 기업 앤트로픽이 자체 기술이 인류 생존을 위협할 수 있다는 경고를 공식 증권신고서에 담았다.
앤트로픽이 26일(현지시간) 미국 증권거래위원회(SEC)에 제출한 400여 쪽 분량의 증권신고서에는 94쪽에 걸쳐 AI의 잠재적 위험과 경영상 불확실성을 다룬 내용이 포함됐다. 투자자에게 사업상 위험을 알리기 위한 '위험 요인' 항목에서 자사 기술이 초래할 수 있는 파국적 결과까지 상세히 기술한 것은 이례적이다.
앤트로픽은 "고도화된 AI가 인류의 생존을 위협할 만큼 심각한 재앙을 초래할 가능성이 있다"고 경고했다. 특히 AI가 인간의 의도나 통제 범위를 벗어나 독자적인 목표를 추구하는 '정렬 실패'(misalignment)를 주요 위험으로 지목했다. AI의 자율성이 높아질수록 예측하지 못한 행동이 나타날 가능성도 있다고 설명했다.
실제 안전성 평가 과정에서는 AI 모델이 작동 중단을 거부하거나 정보를 은폐·조작하는 등 자기보존적 행동을 보인 사례가 관찰됐다. 일부 모델에서는 속임수나 협박과 유사한 행동까지 나타난 것으로 전해졌다. 앤트로픽은 이 같은 사례를 근거로 AI의 고도화가 인간의 감독과 통제를 더욱 어렵게 만들 수 있다고 우려했다.
악의적인 행위자가 AI를 이용해 화학·생물학·방사능·핵(CBRN) 무기 개발을 시도할 가능성도 위험 요인에 포함됐다. 고성능 AI가 확산하면서 기존에는 높은 수준의 전문 지식이 필요했던 위험한 활동의 진입 장벽이 낮아질 수 있다는 것이다.
AI의 사이버 공격 악용 사례도 제시됐다. 앤트로픽에 따르면 2025년 9월 중국 정부의 지원을 받는 것으로 판단되는 해커 조직이 코딩 지원 도구 '클로드 코드'를 악용해 글로벌 기업과 정부 기관 등 약 30곳을 대상으로 침투를 시도했다. 일부 공격은 실제 시스템 침입으로 이어졌다.
회사는 이러한 악용을 막기 위한 기술적 안전장치를 마련했지만 모든 공격을 차단하는 것은 불가능하다고 인정했다. 특히 대규모 피해를 동반한 '재앙적 AI 사건'이 발생할 경우 천문학적인 소송 비용과 손해배상 책임에 직면할 수 있다고 경고했다. 피해 규모가 지나치게 커 관련 위험을 보장하는 보험에 가입하기조차 어려울 수 있다는 설명이다.
반도체 공급망의 높은 집중도 역시 사업을 위협하는 요인으로 꼽혔다. 앤트로픽은 AI 가속기 구동에 필수적인 고대역폭메모리(HBM) 공급이 삼성전자, SK하이닉스, 마이크론 등 3개 업체에 집중돼 있다고 지적했다. 주요 생산시설이 미국 밖에 있어 관세와 수출입 규제, 경제 제재 등에 영향을 받을 수 있다는 것이다.
첨단 AI 반도체의 위탁 생산을 대만 TSMC에 크게 의존하는 구조도 취약점으로 거론됐다. 중국과 대만 간 군사적 충돌이나 자연재해가 발생하면 반도체 공급망에 수년간 차질이 빚어질 수 있다는 분석이다.
기후변화와 환경 문제도 AI 산업의 성장에 제약을 가할 수 있는 변수로 제시됐다. 대규모 AI 모델을 학습하고 운영하는 데 막대한 전력이 필요하지만, 미국의 전력망과 송전 인프라가 급증하는 수요를 감당하기 어려울 수 있다는 평이다. 물 부족에 따른 데이터센터 냉각수 확보 문제도 우려했다.
데이터센터 건설에 대한 지역사회의 반발 역시 사업 확장의 걸림돌로 지목됐다. 앤트로픽은 전력과 용수 사용이 지역 주민의 생활비 부담이나 환경 훼손으로 이어질 수 있다는 인식이 확산하면 규제 강화와 사업 지연으로 연결될 수 있다고 봤다.
블룸버그 통신은 앤트로픽이 증권신고서에서 환경 위험을 비중 있게 다룬 점에 주목했다. 당초 신고서에 환경 문제를 포함하지 않았다가 이후 물 부족 등의 위험을 추가한 스페이스X와 대조적인 행보라는 평가다.
정치적·법적 분쟁도 위험 요인에 포함됐다. 앤트로픽은 미 국방부의 공급망 위험 기업 명단에 오른 사실과 도널드 트럼프 행정부와의 법적 분쟁을 명시했다. 정부와의 갈등이 공공 부문 사업뿐 아니라 정부 기관을 고객으로 둔 민간 기업과의 거래에도 부정적인 영향을 미칠 수 있다고 분석했다.
다만 앤트로픽은 AI가 적절한 통제 아래 활용된다면 인류에게 막대한 경제적·사회적 편익을 가져올 수 있다는 전망도 제시했다. 인간 최고 수준의 전문가를 뛰어넘는 '강력 AI'(Powerful AI)가 등장하면 통상 수십 년이 걸리는 과학적 성취를 몇 년 만에 이룰 수 있다는 설명이다.
특히 의료와 생명과학 분야에서 획기적인 발전이 가능할 것으로 내다봤다. 암과 알츠하이머병, 심장병, 희귀 유전질환, 주요 감염병 등 난치성 질환의 치료법 개발에 AI가 핵심적인 역할을 할 수 있다는 기대다.
앤트로픽은 이러한 가능성을 현실화하기 위한 사업도 추진하고 있다고 밝혔다. 60여 종의 과학 데이터베이스를 결합한 '클로드 사이언스'를 출시한 데 이어, 수익성이 낮아 대형 제약사들이 개발에 소극적이었던 소외 질환 치료제 연구에도 나서고 있다는 것이다.
경제 전반의 생산성 향상 효과도 강조했다. 앤트로픽은 시장조사기관 IDC의 분석을 인용해 AI 솔루션과 서비스에 대한 투자가 2031년까지 전 세계적으로 누적 22조5000억달러(약 3경원)의 경제적 파급효과를 창출할 것으로 전망했다.
이 밖에도 신소재 발굴과 전력망·배터리 성능 개선, 개인 맞춤형 교육·법률·금융 서비스, 개발도상국 기술 지원 등 다양한 분야에서 AI가 복잡한 문제를 해결하는 핵심 동력으로 작용할 수 있다고 강조했다.
