AI 모델 경량화·최적화 기술 기업 노타가 아마존웹서비스(AWS)의 자체 AI 칩에 최적화된 모델 튜닝 서비스를 선보이며 클라우드 시장 공략에 나선다.

노타는 기업 고객을 대상으로 '넷츠프레소(NetsPresso®)' 기반 AI 모델 튜닝 서비스를 출시한다고 7일 밝혔다. 

이 서비스는 AWS의 AI 학습 전용 칩 '트레이니움(Trainium)'과 추론 전용 칩 '인퍼런시아(Inferentia)' 도입을 검토하는 기업을 위해 마련됐다. 노타는 AWS 공인 파트너(Validated Partner) 자격을 보유하고 있다.

넷츠프레소는 AI 모델 크기를 최대 90% 이상 줄이면서도 정확도를 유지하는 경량화·배포 자동화 플랫폼이다. 다양한 하드웨어 환경에 맞춘 최적화를 단일 워크플로로 제공한다. 이번 서비스는 기술검증(PoC) 및 진단, 모델 포팅 및 경량화, 성능 튜닝 단계로 진행된다. 고객의 AI 모델이 AWS AI 칩 환경에서 최고 효율로 운영되도록 지원한다.

핵심 대상은 AI 최적화 전문 인력이 부족한 기업이다. 노타는 고객 모델에 맞춘 기술 진단과 튜닝을 수행한다. 이를 통해 기업은 비용을 절감하고 추론 성능을 개선할 수 있다. 고객은 AWS AI 칩의 우수한 가격 대비 성능과 에너지 효율을 자사 워크로드에 온전히 활용할 수 있게 된다.

이번 서비스는 노타의 축적된 기술 역량을 바탕으로 한다. 노타는 AWS 트레이니움 및 인퍼런시아 환경에서 대규모 언어 모델 튜닝 경험을 쌓아왔다. 실제로 320억개 파라미터 규모의 고성능 언어 모델에 경량화 기술을 적용한 결과, 모델 크기를 68% 줄이면서도 정확도 손실은 1% 미만으로 유지했다. 다양한 모델 아키텍처에 대한 포팅 및 튜닝 경험도 보유하고 있다.

AWS 트레이니움과 인퍼런시아는 글로벌 선도 기업들이 이미 활용 중인 검증된 AI 칩이다. 앤트로픽(Anthropic), 애플(Apple), 데이터브릭스(Databricks), 우버(Uber), 리코(Ricoh), 데카르트(Decart) 등이 AWS 자체 칩을 사용하고 있다. 

2025년 3분기 기준 트레이니움 관련 사업은 전 분기 대비 150% 성장했으며, 규모는 수십억 달러에 달한다. 노타는 고객이 이 칩들을 자사 워크로드에 빠르게 적용할 수 있도록 지원한다.

채명수 노타 대표는 "AWS AI 칩은 뛰어난 가격 대비 성능을 제공하고, 노타는 이러한 AWS 칩의 성능을 고객이 자사 모델에서 온전히 활용할 수 있도록 모델 튜닝을 지원한다"며 "AWS AI 칩 기반 인프라 도입을 검토하는 기업 고객에게 실질적인 비용 효율화 성과를 제공하겠다"고 말했다.

노타는 앞으로도 AI 모델이 구동되는 모든 환경에서 모델 경량화 및 튜닝 파트너로서 입지를 넓혀갈 계획이다.