에이전틱 AI, 인프라 재편… CPU 수요 확대 견인
[테크월드뉴스=박규찬 기자] Arm은 자사 컴퓨팅 플랫폼의 다음 단계 진화를 발표하며 창사 이래 처음으로 이를 양산형 실리콘 제품으로 확장한다고 25일 밝혔다.
르네 하스(Rene Haas) Arm CEO [사진=Arm]
이는 Arm이 설계한 AI 데이터센터용 CPU인 Arm AGI CPU의출시로 시작되며 증가하는 에이전틱 AI 워크로드에 대응하기 위해 개발됐다.
지난 30여 년간 업계는 Arm 컴퓨팅 플랫폼을 기반으로 혁신을 거듭하며 수천억 대에 이르는 다양한 디바이스에서 확장 가능하고 전력 효율적인 컴퓨팅을 구현해 왔다. AI가 글로벌 컴퓨팅 인프라를 재편하는가운데 에코시스템 전반의 파트너는 Arm 기술을 보다 대규모로 배포할 수 있는 방법을 요구하고 있다.
이에 Arm은 기존 IP 및 컴퓨팅 서브시스템(CSS)을 넘어 자체 설계한 실리콘 제품까지 플랫폼 전략을확장하고 있다. 이를 통해 파트너들에게 Arm 기반 구축을 위한 가장 폭 넓은 옵션을 제공하고 AI 에코시스템 전반에서 보다 빠른 혁신을 가능케한다.
르네 하스(Rene Haas) Arm CEO는 “AI는 컴퓨팅의 구축과 배포 방식을 근본적으로 재정의했다. 에이전틱 컴퓨팅은 이러한 변화를 더욱 가속화하고 있다”며 “이번 발표는 Arm 컴퓨팅 플랫폼의 다음 단계이자 Arm에 있어 중요한 전환점이 될 것이다. Arm AGI CPU를 통한 양산형 실리콘 제공으로 확장함에 따라 Arm은 파트너에게 Arm의 고성능, 고효율 컴퓨팅 기반 위에서 더 많은 선택지를 제공하며, 전 세계적으로에이전틱 AI 인프라를 구축할 수 있게 됐다”고 말했다.
AI 에이전트의 등장은 글로벌 컴퓨팅 환경에 중대한 전환점을 만들고 있다. AI가 모델 학습에서 추론, 계획, 실행을 지속적으로 수행하는 에이전트 배포 단계로 전환됨에 따라 AI 시스템 전반에서 생성되는 토큰의양이 급격히 증가하고 있다. 이 과정에서 추론 처리, 작업 간 조율, 데이터 이동을 처리하기 위해 훨씬 더 많은 CPU가 필요하게 됐다.
기업이 에이전트 기반 애플리케이션으로 확장하면서 데이터센터는 기존 기가와트(GW)당 CPU 용량의 4배 이상을 필요로 할 것으로 예상된다. 이는 동일한 전력 범위 내에서 더 많은 컴퓨팅 성능을 요구하게된다. 이러한 추세는 높은 토큰 처리량을 유지할 수 있는 성능, 실제 전력 제약 내에서 운용할 수 있는 효율성, 그리고 x86 프로세서의 복잡성과 오버헤드 없이 구축된 간소화된 아키텍처를 제공하는, AI 규모인프라에 최적화된 새로운 CPU에 대한 수요를 촉발하고 있다.
Arm은 파트너들이 새로운 환경에서 더 빠르게 대응할 수 있도록 에이전틱 데이터센터의 기반이 될 것으로 기대되는 Arm AGI CPU를 선보인다. 실리콘 제품으로의 확장은 Arm IP 라이선스, Arm CSS 도입 또는Arm 설계 실리콘 배포 등 Arm 기반 인프라를 구축하고 배포하는 방식에 있어 에코시스템에 더 큰 유연성을 제공한다.
이러한 기능은 워크로드 밀도 향상, 가속기 활용도 개선, 기존 전력 범위 내 더 효율적인 컴퓨팅 성능 구현으로 이어진다. 이는 AI 인프라가 확장에 있어 매우 중요한 이점으로 작용한다. Arm AGI CPU는 x86 CPU 대비 랙당 2배 이상의 성능을 제공하며 AI 데이터센터 용량 1GW 기준 최대 100억 달러 규모의 CAPEX 절감을 가능케한다.
선도 파트너이자 공동 개발사인 메타는 Arm AGI CPU를 활용해 자사 애플리케이션군의 인프라를 최적화하고 있다. 메타의 자체 실리콘 MTIA(Meta Training and Inference Accelerator)와 함께 협력해 대규모AI 시스템에서 보다 효율적인 오케스트레이션을 지원한다. Arm과 메타는 향후 Arm AGI CPU 로드맵의 여러 세대에 걸쳐 협력을 이어갈 계획이다.
산토시 야나르단(Santosh Janardhan) 메타 인프라 책임자는 “전 세계적으로 AI 경험을 제공하기 위해서는 AI 워크로드를 가속화하고 메타 플랫폼 전반에서 성능을 최적화하도록 설계된 맞춤형 실리콘 솔루션의강력하고 유연한 포트폴리오가 필요하다”며 “Arm AGI CPU를 개발하기 위해 메타는 Arm과 긴밀히 협력했으며 이를 통해 데이터센터의 성능 밀도를 크게 향상시키고 변화하는 AI 시스템을 위한 다세대 로드맵을지원하는 효율적인 컴퓨팅 플랫폼을 배포한다”고 말했다.
Arm은 메타와 더불어 세레브라스, 클라우드플레어, F5, 오픈AI, 포지트론(Positron), 리벨리온, SAP, SK텔레콤 등 주요 파트너와의 협력을 통한 추가적인 사업적 모멘텀도 확정했다. 이들 기업은 Arm AGI CPU를도입해 가속기 관리, 컨트롤 플레인 처리, 클라우드 및 엔터프라이즈 환경에서의 API, 작업 및 애플리케이션 호스팅 등 주요 에이전틱 AI 워크로드에 활용할 예정이다.
이런 확장을 가속화하기 위해 Arm은 애즈락랙, 레노버, 콴타 컴퓨터, 슈퍼마이크로 등 주요 OEM 및 ODM과 협력하고 있다. 초기 시스템은 이미 제공되고 있으며 올해 하반기에 보다 광범위하게 출시될예정이다.
특히 AWS, 브로드컴, 구글, 마벨, 마이크론, 마이크로소프트, 엔비디아, 삼성, SK하이닉스, TSMC 등 업계 리더를 포함한 하이퍼스케일, 클라우드, 실리콘, 메모리, 네트워킹, 소프트웨어, 시스템 설계 및 제조분야에 속한 50개 이상의 선도 기업이 Arm 컴퓨팅 플랫폼의 실리콘 확장을 지원하고 있다.
한편 수십 년간 업계는 Arm의 업계 최고 수준의 IP와 최근 도입된 Arm CSS를 통해 고성능 및 전력 효율적 컴퓨팅 기반 위에서 Arm 컴퓨팅 플랫폼을 구축해왔다. Arm AGI CPU를 통한 양산 실리콘으로의 확장은이러한 진화의 다음 단계로 Arm을 데이터센터 실리콘으로 확장하고 전력 효율적인 아키텍처를 대규모 AI 인프라에 활용하는 것을 의미한다.
회원가입 후 이용바랍니다.
댓글
0