젠슨 황 최고경영자(CEO)는 16일(현지시간)가 엔비디아가 추론 전용 칩과 새 중앙처리장치(CPU)를 내놓으며 본격적인 인공지능(AI) 에이전트 시대에 필수적인 빠른 연산 능력과 지휘 능력 구축에 나섰다.
아울러 황 CEO는 “내년까지 엔비디아의 AI 칩 매출 기회가 최소 1조 달러(약 1500조원)에 달할 것”이라고 내다봤다.
젠슨 황 최고경영자(CEO)는 AI 에이전트의 등장으로 추론이 점점 더 중요해지고 있다며 “추론의 변곡점이 도래했다”고 선언했다.
젠슨 황 최고경영자(CEO)는 16일(현지시간) 미국 캘리포니아주 새너제이 소재 SAP센터에서 진행한 엔비디아의 연례 개발자 회의 ‘GTC 2026’의 기조연설을 통해 ‘그록(Groq)3 언어처리장치(LPU)’를 차세대 AI 슈퍼컴퓨터 ‘베라 루빈’에 통합한다고 밝혔다.
이를 통해 ‘루빈’ 그래픽처리장치(GPU)와 LPU의 역할을 나눠 방대한 데이터를 다루는 대규모 연산은 GPU가 맡고, 속도가 매우 빠른 LPU는 AI의 답변을 처리하도록 효율을 높인다는 구상이다.
기존에는 GPU가 공부와 학습을 모두 담당했지만, 이제는 데이터가 방대해지면서 역할 부담이 필요하다는 것이다. ‘그록(Groq)3 언어처리장치(LPU)’는 AI 에이전트의 추론 처리량을 35배나 높여서, AI와 실시간 대화가 가능하게 만든다는 것이다.
황 CEO는 이와 같은 역할 분담을 통해 파라미터(매개변수)가 조 단위인 최고급 AI 모델의 추론 처리량을 35배 향상하고, 저지연(low latency) 추론 능력을 높일 수 있다고 설명했다.
그록3 LPU, 삼성전자 파운드리 사업부 생산 ‘공식화’…HBM 이어 파운드리 부문도 ‘협력’
엔비디아는 LPU 256개를 하나로 구성한 LPX 랙을 베라 루빈에 통합했다. 특히 황 CEO는 특히 그록3 LPU를 삼성전자 파운드리 사업부가 만들고 있다면서 “삼성에 감사한다”고 발언하기도 했다.
황 CEO는 해당 칩이 엔비디아의 차세대 AI 칩 ‘베라 루빈’ 시스템에 탑재된다고 설명하면서 “올해 하반기, 아마 3분기께 출하가 시작될 것”이라고 말했다.
그록3 LPU는 엔비디아의 ‘루빈’ 그래픽처리장치(GPU)와 역할을 나눠 추론 성능과 효율성을 높이는 칩으로, 황 CEO의 이번 발언을 통해 삼성전자의 파운드리(반도체 수탁생산) 사업부가 생산하고 있다는 사실이 확인됐다.
이에 따라 삼성전자는 엔비디아의 GPU에 탑재되는 고대역폭메모리(HBM) 외에 파운드리 부문에서도 엔비디아와의 협력을 대내외에 과시할 수 있게 됐다.
베라 루빈 슈퍼컴퓨터 부품, 6종에서 LPU 포함한 7종으로 늘어
황 CEO의 발언에 따르면 이제 베라 루빈 슈퍼컴퓨터의 부품은 지난 1월 CES에서 발표했을 당시의 6종에서 LPU를 포함한 7종으로 늘었다. 황 CEO는 또 기존 x86 방식의 CPU 대비 성능을 1.5배로 끌어올리고, 에너지 효율이 2배인 새 CPU ‘베라’와, 이를 256개 탑재한 CPU 랙을 선보였다.
베라 CPU에는 엔비디아가 AI 실행을 위해 직접 설계한 ‘올림퍼스’(Olympus) 코어가 장착돼 x86 CPU 대비 3배의 메모리 대역폭을 제공한다.
엔비디아가 이와 같은 추론 전용 칩과 새 CPU를 선보인 것은 일반적인 AI 챗봇과 달리 AI 에이전트를 구동하는 데는 보다 빠른 속도와 함께 모든 과정을 매끄럽게 조율하는 지휘 능력이 필요하기 때문으로 풀이된다.
황 CEO는 AI 에이전트가 등장하면서 필요하게 된 추론의 양이 챗GPT가 처음 등장했을 때의 1만배로 증가했고, 연산량뿐 아니라 사용량까지 고려하면 연산 수요가 100만배 늘어났다면서 이를 ‘추론의 변곡점’이라고 말했다.
더퍼블릭 / 김미희 기자
저작권자 © 더퍼블릭
댓글
0