구글이 AI 모델의 추론 효율을 높이기 위한 새로운 반도체 개발에 나섰다.
19일(현지시간) 디 인포메이션에 따르면, 구글은 마벨과 협력해 두 종류의 AI 칩을 공동 설계하는 방안을 논의 중이다.
핵심은 ▲TPU와 함께 작동하는 메모리 처리 유닛(MPU) ▲AI 모델 실행에 특화된 차세대 TPU 개발 등 두가지다.
특히 MPU는 연산 중심의 TPU와 역할을 분담해, 데이터 이동과 메모리 처리 병목을 줄이는 데 초점을 맞춘다. 이는 AI 추론 과정에서 연산 능력뿐 아니라 메모리 대역폭이 성능을 좌우하는 핵심 요소로 떠오르고 있음을 반영한다.
이 같은 움직임은 최근 급증하는 ‘추론(inference) 전용 칩’ 수요와 맞물려 있다. 자율 에이전트와 같은 고도화된 AI 서비스는 기존 챗봇보다 훨씬 많은 연산 자원을 요구하며, 이에 따라 효율적인 추론 처리가 핵심 경쟁력으로 부상하고 있다.
실제로 엔비디아는 지난 3월 'GTC'에서 추론 성능을 강화한 ‘언어 처리 유닛(LPU)’을 공개하며 시장 선점에 나섰다. 이 칩은 스타트업 그로크(Groq)의 기술을 기반으로 개발된 것으로 알려졌다.
구글은 그동안 데이터센터용 칩을 주로 브로드컴과 협력해 설계해 왔지만, 최근에는 특정 파트너에 대한 의존도를 낮추려는 움직임을 보이고 있다. 마벨과의 협력도 이러한 전략으로, 단순 기성 제품 구매가 아닌 구글 맞춤형 반도체를 공동 설계하는 데 초점이 맞춰져 있다.
양사는 우선 MPU 설계를 내년 중 확정하고 시험 생산에 돌입하는 것을 목표로 하고 있다. 초기 계획에 따르면 구글은 200만개의 MPU를 생산할 가능성이 있으며, 이는 기존 TPU와 함께 사용될 예정이다. 참고로 금융기관 모건 스탠리는 구글이 2027년 약 600만개의 TPU를 생산할 것으로 전망한 바 있다.
구글이 마벨과 협력하는 배경에는 기존 협업 경험도 영향을 미쳤다. 구글은 과거 마벨의 CXL 컨트롤러 칩을 도입해 데이터센터 내 서버 간 메모리 공유를 관리해 왔으며, 이를 통해 마벨의 설계 역량에 대한 신뢰를 확보한 것으로 전해진다. 또 마벨은 그로크의 1세대 LPU 설계에도 참여한 경험이 있어, 추론용 칩 설계 분야에서 경쟁력을 갖추고 있다.
구글은 지난해부터 AI 칩 생태계 본격 확장에 나섰다. 그동안 TPU를 자체 데이터센터와 클라우드 고객에게만 제공했지만, 최근에는 외부 데이터센터에서도 사용할 수 있도록 임대하기 시작하며 엔비디아 중심 시장에 도전장을 내밀었다. 이 과정에서 앤트로픽, 메타, 애플 등 주요 기업들이 TPU 고객으로 합류했다.
AI 업계 전반에서도 추론 칩 다변화는 뚜렷한 흐름이다. 오픈AI는 최근 세레브라스와 200억달러(약 29조원) 규모의 추론 칩 계약을 체결했으며, 동시에 브로드컴과 자체 칩 개발도 병행하고 있다. 이는 다양한 유형의 칩을 조합해 효율과 성능을 동시에 확보하려는 전략에 따른 것이다.
한편, 마벨은 최근 엔비디아로부터 20억달러 투자를 유치하고, ‘NV링크 퓨전(NVLink Fusion)’을 중심으로 한 전략적 협력에 나섰다. 전 세계 수백만개의 통신 기지국을 엔비디아 생태계로 편입시키는 'AI-RAN(무선 접속망)' 표준화가 주요 목표다.
박찬 기자 cpark@aitimes.com
댓글
0