[편집자주] 이번 인사이트는 국내외 주요 증시의 핫키워드로 부상할 만한 AI 감가상각 논란과 관련한 좀더 세밀한 분석을 정리했습니다. 마이클 버리가 흐름의 주역이며 매도 신호라기 보단 대응이 필요한 시점이라는 게 일부 시장 관계자들의 판단입니다. 총 3편이며, 늦어도 11월 25일 공개될 AI버블론자 마이클 버리의 AI 데이터센터 감가상각이슈의 디테일을 사전에 알아보는 시간을 가져보겠습니다.
빅테크는 AI 데이터센터 하드웨어의 교체 주기와 고민한다.
현재는 인공지능(AI) 서비스 제공을 위해 막대한 규모의 데이터센터를 운영하며, 최첨단 GPU와 서버 하드웨어에 지속적으로 투자한다.
문제는 시간이 지나 세대교체가 필요해지는 구형 하드웨어를 어떻게 처리하느냐다. 새로운 세대의 칩이 등장할 때마다 기존 장비를 바로 폐기하기보다는 재사용(reuse)하거나 재활용(recycle)하는 전략이 중요한 화두가 되고 있다. 이러한 전략은 환경적 책임(ESG)과 비용 절감은 물론, 서버 감가상각 기간(내용연수)을 5~6년으로 늘리는 회계적 처리의 정당성 근거로도 활용되고 있다.
◆구세대 AI 하드웨어의 재사용·재활용 전략빅테크 기업들은 구형 하드웨어를 폐기하지 않고 최대한 재활용하는 내부 프로그램을 운영하고 있다. 구글과 마이크로소프트의 사례가 대표적이다.
구글의 “서클러 데이터센터” 접근: 구글은 데이터센터에 순환경제(circular economy) 원칙을 도입하여, 서버 부품을 분해·수리하고 재활용하는 체계를 갖췄다.
한번 사용한 부품이라도 디스크를 완전 초기화하고 검사해 재사용 부품으로 비축하고, 이를 활용해 리퍼비시(refurbished) 서버를 제작한다. 실제로 2016년에 구글이 신규로 배치한 서버의 36%는 중고 부품을 재제조한 것이었고, 서버 업그레이드에 사용된 부품의 22%도 이전 기기에서 회수한 것이었다.
또한 사용하지 않는 부품은 분기별로 평가해 중고 시장에 재판매하며, 2017년에만 약 210만 개의 부품을 외부에 판매해 다른 조직에서 활용하도록 했다.
이러한 노력 덕분에 2016년 구글 데이터센터에서는 전 세계적으로 86%의 폐기물을 매립이 아닌 다른 방식으로 처리했고, 일부 데이터센터는 100% 매립 제로를 달성했다.
마이크로소프트의 “서큘러 센터” 프로그램도 대표적이다. 마이크로소프트는 각 지역 데이터센터에 순환 센터(Circular Center)를 설립해 사용이 끝난 클라우드 하드웨어를 분류하고 새로운 용도를 찾아주는 작업을 체계화했다.
2025년까지 클라우드 하드웨어 자산의 90%를 재사용하는 것이 목표라고 밝히고 있으며, 실제 싱가포르를 비롯한 지역에서 순환 센터를 운영 중이다.
이 센터에서는 퇴역 장비를 분해하거나 다른 용도로 재배치하고, 인공지능 기반 시스템(IDARS)을 통해 부품별 최적의 재사용·재활용 경로를 결정한다.
예컨대 해체된 서버를 지역 학교에 기부해 교육용 컴퓨팅 리소스로 활용하거나, 회수한 메모리 모듈을 전자제품 제조업체에 공급해 전자 완구나 게임기 제작에 사용하는 식이다.
마이크로소프트는 이러한 순환 센터를 통해 폐기물 감축뿐만 아니라 현지 고용 창출과 기술 교육에도 기여하고 있다고 강조한다.
아마존 웹서비스(AWS) 또한 2021년에 기후 중립 데이터센터 협약에 참여해 서버를 재사용·수리하겠다고 공언하는 등 서버 수명 연장을 위한 업계 표준에 동참하고 있다.
특히 AWS는 HPE와 파트너십을 맺어 연간 300만 대의 중고 장비 중 90%를 재유통하는 프로그램에 참여하고 있다.
오라클, 메타 등 다른 데이터센터 운영 기업들도 각각 자산 회수(IT asset recovery)팀을 두고 하드웨어를 최대한 되살려 쓰거나 안전하게 재활용하는 프로세스를 강화하는 추세다.
구글 데이터센터 엔지니어가 서버 부품을 교체하고 있다. 구글은 자체 설계한 서버를 최대한 수리하고 재조립해 활용하며, 불용 장비는 부품 단위로 분해한 뒤 외부에 되판다.
이러한 노력은 새로운 장비 구매를 줄여 비용 절감과 폐기물 감축에 기여한다.
리퍼비시/재활용 전략은 단순히 환경적인 이유뿐만 아니라 경제적 이점도 크다. 기업들은 새 장비를 구매하는 대신 기존 자산을 재사용함으로써 CAPEX 절감 효과를 누리고 있다. 실제 한 분석에 따르면 중고 서버는 신품 대비 55~80% 저렴해, 공급망 이슈로 신품 가격이 급등한 최근 시장 상황에서 기업 예산을 크게 절약해 준다고 한다.
나아가 전문 서드파티 유지보수 업체를 활용하면 제조사 대비 저렴한 가격에 노후 장비를 지원받아, 전체 소유 비용(TCO)을 낮추는 효과도 있다.
결과적으로, 과거에는 빠르게 폐기처분되던 데이터센터 장비가 이제는 기업의 전략 자산으로 재평가되고 있다.
이는 하드웨어 세대가 바뀌어도 이전 세대 장비를 바로 폐기하지 않고 적절한 용도로 돌려쓰면서 경제적 가치 창출 기간을 최대화하고 있음을 보여준다.
결국 감가상각 연장은 단순한 회계 장난이 아니라 위와 같은 기술·운영상의 실체를 반영한 조치라는 것이 빅테크 측의 주장이다.
구글 CFO 루스 포랫(Ruth Porat)은 2023년 초 투자자들에게 서버 내용연수 재평가를 언급하며, “자산을 운영에서 사용하게 될 기간에 대한 최선의 추정을 재무제표에 반영하기 위한 것”이라 설명했다. 즉, 실제로 장기간 활용할 자신이 있으니 장부상 내용연수도 늘렸다는 것입니다.
◆AI 하드웨어 세대교체 사례: 훈련에서 추론으로
AI 하드웨어의 세대교체 전략을 이해하기 위해, GPU 활용 사례를 좀 더 구체적으로 살펴보겠다. 최신형 GPU는 AI 모델 학습에 투입되고, 밀려난 이전 세대 GPU는 추론이나 기타 작업으로 ‘계단식(cascade)’ 재배치되는 패턴이 정착되고 있다.
기업은 하드웨어 투자에 대한 가치 회수 기간을 극대화할 수 있는 셈이다.
예를 들어 2022년에 출시된 엔비디아 H100 GPU는 현재 구글, 메타 등의 최상위 AI 모델 훈련 작업에 핵심적으로 사용된다. 기존에 훈련을 맡았던 A100 GPU들은 더 이상 최고 성능이 요구되지 않는 고급 추론이나 모델 미세조정(fine-tuning) 작업으로 내려오고, 그보다 이전 세대인 V100이나 T4 같은 GPU들은 일반적인 추론이나 기타 가속 컴퓨팅 작업으로 또 한 단계 내려간다.
한 세대 이전의 GPU도 여전히 CPU만으로 처리하던 작업을 가속함으로써 경제적 가치를 창출한다.
일각에선 2021년에 도입한 A100 GPU 한 대도 2024년에 프리미엄 추론 서버로 재활용되고, 2026년쯤 되면 더 최신 GPU에 자리를 내주고 “저가 대량 추론” 용도로 전환되는 식으로 6~7년간 활용될 수 있다고 한다.
즉, 초반 1~2년의 최고 성능기를 지나고 나서도 적절한 용도로 이동함으로써 경제적 내용연수 6~7년을 확보하는 셈이다.
중고 시장 내 수요도 주목할 만하다. 고사양 AI 칩의 중고 시장이 형성되면서 구세대 GPU의 활용 가치는 더욱 부각되고 있다. 2023년 미·중 수출 규제로 중국 기업들이 최신 AI 칩 수급에 어려움을 겪자, 중고 A100/H100 GPU를 대거 확보하여 자체 AI 시스템을 구축하는 사례가 보고됐다.
엔비디아 A100(2020년 출시)은 여전히 80GB 고대역폭 메모리와 높은 연산능력을 갖춰, 최첨단이 아니어도 거대 언어모델(LLM) 서비스나 추천시스템 등을 돌리는 데 쓸 만하다는 평가다.
중고라도 수요가 있으니, 빅테크가 아니더라도 중소 규모 AI 업체나 해외 시장에서 이전 세대 하드웨어는 얼마든지 제2의 생명을 이어간다. 대형 사업자들도 굳이 사용 가능한 장비를 서둘러 폐기하기보다는 판매를 통해 일부 회수하거나 내부적으로 돌려쓰며 가치 극대화를 도모하는 것이 합리적이다.
