ARM이 인공지능(AI) 서버 시장을 장악할 것이라는 전망이 제시됐다. 3일 카운터포인트리서치는 주요 하이퍼스케일러의 AI ASIC 서버에서 ARM 기반 CPU 채택이 증가하면서 2029년 AI 시장의 90%를 차지할 것으로 전망했다.
현재 AI서버 시장의 중심은 x86 시스템이다. 주요 하이퍼스케일러들은 소프트웨어 호환성과 기존 데이터센터 인프라를 고려해 인텔, 혹은 AMD 프로세서를 호스트 CPU로 활용하고 있다.
하지만 시장이 확대되고 세미커스텀 AI가속기, XPU 기반의 이기종 아키텍처 필요성이 커지면서 ARM 네오버스 코어 기반 서버 CPU 채택이 빠르게 증가하고 있다.
이러한 변화는 비용과 효율성 측면에서 ARM이 비교우위를 갖기 때문이다. 하이퍼스케일러들은 AI가속기와 함께 자체 호스트 프로세서를 설계함으로써 범용반도체 벤더 의존도를 낮추면서 공급망 다변화와 규모의 경제 실현해 마진을 회수하고 토큰 비용을 절감하려 하고 있다.
이에 따라 초기 범용 클라우드 워크로드에 활용되던 자체 ARM 기반 CPU가 점차 AI서버용으로 확장되고 있는 것이다.
ARM 기반 CPU는 유사한 x86 랙 구성 대비 최대 2배의 전력 대비 성능을 제공하며, 이는 제한된 전력 환경에서 컴퓨팅 밀도를 극대화하려는 하이퍼스케일러에게 중요한 장점으로 부각된다.
카운터포인트 분석에 따르면, 하이퍼스케일러들은 자체 CPU 개발을 위해 ARM 라이선스를 적극 확대하고 있으며 턴키 방식 ARM AGI CPU 플랫폼은 데이터센터 CPU에서 ARM의 입지를 더욱 강화할 것으로 기대된다.
AI 서버 시스템에서 ARM 기반 점유율 전망 [자료=카운터포인트]
메타를 비롯해 구글(GCP), 아마존웹서비스(AWS), 마이크로소프트(MS) 등 주요 하이퍼스케일러가 ARM AGI CPU 도입에 나선 것은 AI 서버에서 ARM 확대를 보여주는 단면으로 ARM 기반 AWS 그래비톤, 구글 액시온, MS애저 코발트 등 하이퍼스케일러의 자체 ARM 시스템 도입이 이어지고 있다.
데이비드 우 카운터포인트 연구위원은 “현재 x86 아키텍처가 AI서버 인프라에서 중요한 비중을 차지하고 있지만, 세대별 분석 결과 이 지배적 위치는 빠르게 독자적인 ARM 기반 설계로 전환되고 있다”며 “이러한 변화는 올해 하반기부터 더 가속화될 것”이라고 말했다.
카운터포인트는 지난해 맞춤형 AI ASIC 서버의 호스트 CPU 배치 중 약 25%를 차지했던 ARM 기반 CPU가 2029년에는 최소 90%를 차지할 것으로 예측했다.
주요 하이퍼스케일러의 자체 ARM CPU 프로그램 확대에 따라 AI 서버 시장의 구조적 변화가 이뤄진다는 것이다.
닐 샤 카운터포인트 리서치 부사장은 “AI서버 시장에서 x86-ARM 전환은 단번에 이뤄지는 변화가 아닌 세대별, 구성별로 점진적으로 진행되는 것”이라며 “하이퍼스케일러들은 각자의 배치 요구에 맞춰 신중하게 선택하고 이에 맞는 소프트웨어를 구축하고 있다”고 말했다.
댓글
0