메타 로고 [출처=연합]
AI의 발전 단계가 대규모 언어 모델(LLM)의 학습 단계에서 추론 단계로 전환됨에 따라 업계 톱인 엔비디아가 그 자리를 계속 유지할 수 있을지에 관심이 집중되고 있다.
지난 한 주 메타 플랫폼과 칩 제조 파트너사인 브로드컴이 맞춤형 칩 생산 계획을 발표하면서 경쟁 압박은 더 심해졌다.
대형 고객사들이 점점 맞춤형 XPU(가속 처리 장치) 솔루션으로 이동하는 가운데, 엔비디아 투자자들이 이러한 상황을 우려해야 하는지에 대해 투자 전문 매체 모틀리 풀이 보도했다.
지난 11일 메타는 네 가지의 새로운 인공지능 칩, MTIA 300, MTIA 400, MTIA 450, MTIA 500을 공개했다.
MTIA 300은 생성형 AI가 등장하기 전 메타의 핵심 업무였던 순위 결정 및 추천(Ranking & Recommendation, R&R) 작업에 최적화됐다. MTIA 400, 450, 500은 각각 서로 다른 유형의 추론 작업을 위해 설계됐다.
MTIA 400은 전통적인 R&R 어플리케이션에 더 거대한 생성형 AI 모델을 구현할 수 있다. 450은 400의 성능에 고대역폭 메모리(HBM)의 용량을 두 배로 늘려 기능을 강화했고, 500은 450보다 HBM 용량을 50% 높였다.
메타는 현재 MTIA 300을 사용 중이며, 400, 450, 500은 생성형 AI 추론을 위해 2027년 초부터 순차적으로 출시될 예정이라고 밝혔다.
또한 일반적인 2년 주기가 아닌 6개월마다 새로운 칩 설계를 반복할 수 있는 '모듈형' 접근 방식의 칩 설계 전략을 설명했는데, 오늘날 AI 진화의 급격한 속도를 고려할 때 이러한 방식이 필수적이라고 메타는 보고 있다.
메타 측은 "한 번의 베팅을 하고 오랜 시간을 기다리기보다, 우리는 의도적으로 반복적인 접근 방식을 취하고 있다. 각 MTIA 세대는 모듈형 칩렛(chiplets)을 사용하여 이전 세대를 기반으로 구축되며, 최신 AI 워크로드 분석 결과와 하드웨어 기술을 통합하여, 더 짧은 주기로 배포된다. 이러한 긴밀한 순환 구조를 통해 하드웨어를 진화하는 모델에 더 잘 맞도록 유지하는 한편, 새로운 기술을 더 빠르게 채택할 수 있다"라고 말했다.
다른 주요 클라우드 기업들처럼 메타도 자사 칩의 부품 일부를 제조하고 패키징하는 데 브로드컴을 활용하고 있다.
메타 CEO 마크 저커버그 [사진=연합뉴스]
브로드컴은 자사의 주요 XPU 고객사 다섯 곳 중 하나로 메타를 꼽고 있으며, 칩의 연산부와 네트워크 패브릭을 연결하는 서데스(SerDes) 구성 요소를 메타에 공급하고 있다. 동시에 브로드컴은 패키징과 그 밖의 요소들을 처리하면서 메타가 직접 설계한 칩들이 실제로 제조 가능하게 보장해주고 있다.
브로드컴의 지난 주 분기 실적 발표에서 CEO 혹 탄은, 그래픽 처리 장치(GPU)보다 XPU를 선호하는 현재의 추세에 대해 설명하며, AI 워크로드가 진화함에 따라 AI 학습 및 추론 과정의 각 단계마다 칩이 더 전문화돼야 한다고 강조했다.
그는 "모든 상황에 다 들어맞는 범용 GPU에는 한계가 있다. GPU의 경우 조밀한 행렬 곱셈을 위한 설계가 되어 있어 소프트웨어 커널을 통해 작업을 수행하지만, 이는 실리콘에 직접 하드코딩(Hard-coding)하여 혼합 전문가(Mixture-of-Experts, MoE) 워크로드에 훨씬 더 높은 성능을 내도록 특수 설계된 XPU만큼 효과적이지는 않다. 추론 분야도 마찬가지다. 그래서 설계 방식이 전통적인 표준 GPU 설계에서 벗어나기 시작한 것이다”라고 설명했다.
또한 “이전에도 항상 말했듯이, 결국 XPU가 더 많은 선택을 받게 될 것이다. 학습용이든 추론용이든 특정한 워크로드에 맞춰 유연하게 설계할 수 있기 때문이다. 원하는 특정 유형의 LLM 워크로드에 맞춰 XPU를 미세하게 조정할 수 있으며, 현재 우리 다섯 고객사 모두의 로드맵에서 그러한 경향이 나타나고 있다"라고 말했다.
AI 컴퓨팅 산업이 사전 학습(Pre-training), 사후 학습(Post-training), 강화 학습(Reinforcement learning), 그리고 다양한 어플리케이션을 위한 추론 단계로 진화함에 따라, 엔비디아가 시장 점유율을 잃을 위험에 처해 있는지가 관건이다.
결국 엔비디아도 지난 해 말 추론용 칩 스타트업인 그록(Groq)의 지적 재산권과 엔지니어링 인재를 확보하기 위해 200억 달러를 쏟아부었다. 이는 혹 탄(Hock Tan)이 설명한 것처럼, 산업의 중심축이 이동함에 따라 엔비디아도 비 GPU 칩에 대한 신규 수요를 인지하고 있음을 시사하는 것일 수 있다.
그러나 엔비디아 투자자들이 반드시 패닉에 빠질 필요는 없다고 모틀리 풀은 말했다. 추론 시장의 경쟁이 치열해지고 있지만, 엔비디아는 여전히 학습 분야에서 강한 선두 자리를 유지하고 있으며, 학습 인프라에 대한 투자는 계속 증가할 것이기 때문이다.
그 증거로 모틀리 풀은 메타의 사례를 들었다. 지난 주 새로운 칩들을 공개했지만, 지난 달 메타는 엔비디아와 대규모의 다년 계약을 체결했다. 자사의 데이터 센터에 수백만 개의 엔비디아 블랙웰 및 루빈 칩과, 엔비디아의 CPU까지 배치하고, 이 모든 장치를 엔비디아의 스펙트럼X(SpectrumX) 이더넷 스위치로 연결할 예정이다.
즉, 메타가 새로운 칩을 설계해도 아직은 엔비디아 인프라 구매를 중단할 수는 없는 상황인 것이다.
메타는 , 인스타그램, 왓츠앱, 그리고 메타버스 연구 개발 부문인 리얼리티 랩스(Reality Labs)까지 기존 사업들을 보유하고 있으면서, 자체 LLM인 라마 시리즈도 구축하고 있다. 따라서 메타가 LLM 개발과 첨단 AI 연구에 엔비디아를 활용하면서, 자체 개발 칩으로는 최적화된 솔루션으로 기존 사업 영역을 더 효율적으로 지원하려는 것일 수 있다.
그러나 큰 그림으로 볼 때는, AI 컴퓨팅 수요가 여전히 폭발적으로 성장하고 있다. 이는 새로운 추론용 칩 제조사들의 등장이 기존의 학습 중심의 GPU 수요를 감소시키는 게 아니라, 오히려 새로운 유형의 칩들이 시장에 추가되는 것이며, 엔비디아의 GPU를 대체하지 않을 것임을 의미하는 것이라고 모틀리 풀은 해석했다.
[위키리크스한국=최정미 기자]
저작권자 © 위키리크스한국
최정미 기자
다른기사 보기
유튜브
댓글
0