생성형 인공지능(AI) 도입을 두고 실리콘밸리와 글로벌 기업들의 전략이 급변하고 있다. 천문학적인 AI API(응용프로그램 인터페이스) 사용료 청구서를 받아 든 기업들이, 무작정 최신·최고 사양의 AI를 남발하던 이른바 '토큰맥싱(Tokenmaxxing)' 기조를 버리고 철저한 비용 효율 중심의 '모델맥싱(Modelmaxxing)'으로 빠르게 갈아타는 추세다.
5일(현지시간) 미국 경제 전문 매체 비즈니스인사이더는 기업들의 AI 운영 비용 부담이 한계치에 달하면서, 작업의 난이도와 성격에 맞춰 여러 AI 모델을 효율적으로 쪼개 쓰는 모델맥싱 전략이 새로운 산업 트렌드로 자리 잡고 있다고 보도했다.
모델맥싱의 핵심은 선택과 집중이다. 고도의 논리적 추론이나 복잡한 연산이 필수적인 상위 20%의 핵심 업무에는 '클로드 페이블 5'나 'GPT-5.5' 같은 값비싼 최첨단 모델을 투입한다. 반면, 단순 요약이나 반복적인 일상 업무에는 구형 모델이나 무료 개방형(오픈소스) AI를 배치해 불필요한 예산 누수를 원천 차단하는 방식이다.
실제로 현장에서는 이러한 맞춤형 통제가 이미 가동되고 있다. AI 스타트업 '볼드 메트릭스'는 부서별로 AI 접근 권한과 연산 강도를 세밀하게 쪼갰다. A팀은 클로드 페이블을 저강도 추론 모드로, B팀은 GPT-5.5를 고강도 모드로, 개발팀은 코딩 특화 툴인 '커서 컴포저 2.5'를 쓰게 하는 식이다.
브라이언 암스트롱 코인베이스 최고경영자(CEO) 역시 최근 자신의 엑스(X·옛 트위터)를 통해 "향후 1년 반 안에 전체 AI 작업의 80%는 지금보다 99% 저렴한 모델로 대체될 것"이라며 "값비싼 최신 AI는 과학적 난제 해결 등 극히 일부 영역에만 한정적으로 쓰일 것"이라고 내다봤다.
이러한 체질 개선은 그동안 수많은 기업이 겪은 뼈아픈 비용 청구서 쇼크에서 비롯됐다. AI 모델 라우팅 서비스 기업 레이라인의 데이비드 길모어 대표는 "상당수 기업이 AI 트렌드에서 뒤처진다는 소외 불안감(FOMO)에 휩싸여 일단 가장 비싼 최신 모델부터 덜컥 도입한다"며 "이후 상상을 초월하는 요금 고지서를 받아 들고 나서야 부랴부랴 사용량 축소와 최적화에 나서고 있는 실정"이라고 꼬집었다.
AI 스타트업 헤추라의 크리스 마코니 공동창업자 역시 "어떤 업무에 어떤 모델이 적합한지 꼼꼼히 분석하는 귀찮은 과정을 생략한 채, 그저 맹목적으로 최신 유행에 편승하려는 심리가 고비용을 초래했다"고 지적했다.
기업들의 뼈저린 각성과 기조 변화는 곧바로 새로운 틈새시장인 '모델 라우팅' 업계의 호황으로 이어지고 있다. 사용자가 명령어를 입력하면 그 난이도를 즉각 분석해 가장 가성비가 좋은 AI 모델로 알아서 연결해 주는 중개 서비스가 각광받고 있는 것이다. 기업 지출 관리 플랫폼 램프의 아라 카라지안 수석 경제학자는 "불과 1년 전만 해도 1%에 불과했던 모델 라우터 도입 기업 비중이 올해 5%로 단기간에 급증했다"며 AI 비용 다이어트를 돕는 솔루션 시장의 가파른 성장세를 짚었다.
