◆…사진:엔비디아(GTC2026)엔비디아가 차세대 AI 인프라 전략의 핵심으로 자체 GPU·CPU에 외부 칩을 결합한 새로운 데이터센터 랙을 공개했다.엔비디아는 16일(현지시간) 미국 캘리포니아 산호세에서 열린 GTC 2026에서 그록(Groq) 기반 추론 서버 Groq 3 LPX를 비롯해 베라 루빈(Vera Rubin) NVL72 GPU 랙, Vera CPU 랙, 블루필드(BlueField)-4 DPU 기반 스토리지 랙, 스펙트럼(Spectrum)-6 네트워킹 랙 등 새로운 데이터센터 플랫폼을 공개했다.이들 제품은 올해 하반기 출시될 예정으로 엔비디아는 그록과의 비독점 라이선스 계약을 통해 확보한 LPU를 차세대 플랫폼 '베라 루빈'에 통합한 GPU·LPU 이종 아키텍처를 앞세워 대규모 AI 모델의 추론 속도와 효율을 동시에 끌어올리겠다는 전략이다.그록 3 LPX와 베라 루빈 NVL72를 결합하면 1조 개 파라미터 급 GPT 모델 기준 처리량은 기존 블랙웰 NVL72 대비 최대 35배, 토큰 생성 속도는 메가와트당 초당 300 토큰, 사용자 기준 초당 500 토큰 수준까지 높아져 AI 서비스 사업자의 토큰 단위 과금 수익성 개선에도 도움이 될 것이라고 설명했다.이 같은 성능 개선은 대용량 메모리와 높은 연산 성능을 바탕으로 모델 전체 연산을 맡는 GPU, 초저지연 구조로 토큰 생성과 디코딩 일부를 처리하는 LPU 역할 분담에 따른 것으로 최대 150TBps의 메모리 대역폭을 구현해 HBM 기반 GPU보다 지연 시간을 크게 낮췄다.그록 3 LPX 랙은 256개의 LPU에 액체 냉각 방식을 적용하며 베라 루빈 NVL72와 연결돼 72개의 루빈 GPU, 36개의 베라 CPU와 함께 작동, 모든 토큰의 모든 계층에서 GPU와 LPU가 동시에 협력하는 구조를 구현했다.엔비디아는 CPU 영역에서도 자체 설계 칩을 앞세워 영향력 확대에 나섰다. 새로 공개된 베라 CPU는 88코어 기반 ARM 아키텍처로 기존 x86 CPU 대비 단일 스레드 성능 50% 향상과 2배 수준의 전력 효율을 목표로 한다.CPU 전용 랙에는 최대 256개의 베라 CPU와 400TB 규모 메모리, 64개의 블루필드-4 DPU가 탑재돼 대규모 AI 에이전트 워크로드를 지원한다. 스토리지와 네트워크 역시 AI 전용 구조로 재편됐다.블루필드-4 기반 STX 스토리지 아키텍처는 AI 에이전트의 실시간 데이터 접근 속도를 최대 5배 끌어올리고 S스펙트럼-6 네트워크 랙은 대규모 데이터센터 내 동서 트래픽을 저지연으로 처리하도록 설계됐다.이 같은 통합 인프라를 AI 팩토리 개념으로 제시하며 학습·추론·에이전트 운영까지 AI 전 과정을 하나의 시스템으로 처리하는 방향으로 발전시키고 있다. 회사 측은 "7개의 신규 칩이 결합돼 하나의 슈퍼컴퓨터처럼 작동하도록 설계됐다"며 "에이전트형 AI 확산에 대응하는 핵심 플랫폼이 될 것"이라고 강조했다.한편 엔비디아는 LPU 기반 추론 최적화에 우선 집중하기 위해 당초 계획했던 루빈 CPX GPU 기반 플랫폼은 일단 보류할 방침인 것으로 확인되었다.
댓글
0