그록3 LPU, 삼성전자 파운드리서 생산 엔비디아 차세대 AI칩 '베라 루빈...

계산담당 GPU와 데이터 저장 HBM에 SRAM 탑재…병목 최소화

젠슨황 “삼성에 감사”…삼성, 7세대 HBM4E 첫 공개 초격차 강조

엔비디아 젠슨 황 CEO가 GTC 2026 현장에서 삼성전자 부스를 방문해 기념촬영을 하고 있다. 왼쪽부터 황상준 메모리개발담당 부사장, 엔비디아 젠슨 황 CEO, 한진만 파운드리 사업부장 사장. 제품은 왼쪽부터 삼성전자 HBM4 코어다이 웨이퍼와 그록 LPU 파운드리 4나노 웨이퍼 각 웨이퍼에는 'AMAZING HBM4'와 'Groq Super FAST'라는 젠슨 황 CEO의 친필 서명이 적혀있음

“삼성이 우리를 위해 '그록(Groq)3' 언어처리장치(LPU) 칩을 제조하고 있다. 지금 최대한 빠르게 생산을 늘리고 있으며, 삼성에게 정말 감사드린다.”

이는 젠슨 황 엔비디아 최고경영자(CEO)가 연례 개발자 회의 'GTC 2026' 기조연설에서 이례적으로 삼성을 특별히 언급하며 감사를 표한 말이다.

황 CEO는 16일(현지시간) 미국 캘리포니아주 새너제이 소재 SAP센터에서 진행한 기조연설에서 추론 전용 칩 그록3 LPU가 엔비디아의 차세대 AI 칩 '베라 루빈' 시스템에 탑재된다고 설명하면서 “올해 하반기, 아마 3분기께 출하가 시작될 것”이라고 했다.

그록3 LPU는 대형언어모델(LLM)을 실행하는 추론에 특화한 반도체다. 엔비디아의 '루빈' 그래픽처리장치(GPU)와 역할을 나눠 추론 성능과 효율성을 높이는 칩이다. 엔비디아가 지난해 12월 그록(Groq) 핵심 인재와 기술을 영입한지 3개월 만에 내놓은 첫 성과다.

핵심은 메모리 병목을 최소화했다는 점이다. 기존 엔비디아 AI칩은 계산을 담당하는 GPU와 데이터를 저장하는 고대역폭메모리(HBM)가 분리돼있어 이를 오가는 데이터가 정체되는 현상이 발생한다. 그록3 LPU는 연산 반도체 내에 SRAM을 탑재해 지연 시간을 최소화한다.

엔비디아의 최신형 AI칩 루빈에는 메모리 용량이 288기가바이트(GB)인 6세대 고대역폭메모리(HBM4)가 탑재되는데, 그록3 LPU에는 500분의1 수준인 500메가바이트(MB) SRAM이 들어간다. 반면 데이터 대역폭은 그록3 LPU가 초당 150테라바이트(Tb/s)로 루빈의 7배에 달한다. 작업 상황에 따라 동적으로 자원을 할당하는 GPU와 달리 LPU는 데이터의 이동 경로와 속도를 정해놓는 '결정론적 구조'를 택해 메모리 병목을 최소화했다.

데이터 지연을 극도로 최소화했지만 한계도 있다. 칩 하나 당 토큰(AI 처리의 기본단위) 생성 속도가 상대적으로 낮다. 이러한 단점을 보완하기 위해 엔비디아는 HBM의 높은 연산 성능과 LPU의 낮은 지연 속도를 결합한 새로운 AI칩을 개발 중이다.

황 CEO의 이번 발언으로 삼성전자의 파운드리(반도체 수탁생산) 사업부가 그록3 LPU를 생산하고 있다는 사실이 확인됐다. 이에 따라 삼성전자는 엔비디아의 GPU에 탑재되는 HBM 외에 파운드리 부문에서도 엔비디아와의 협력을 대내외에 과시할 수 있게 됐다.

삼성전자도 이날 GTC 행사장에서 7세대 HBM인 'HBM4E'의 실물 칩과 적층용 칩인 '코어 다이' 웨이퍼를 처음으로 일반에 공개하면서 메모리 부문에서 엔비디아와의 협력을 적극적으로 홍보했다.

올 하반기 샘플 출하를 목표로 하는 HBM4E는 핀당 16Gbps(초당 기가비트) 전송 속도와 4.0TB/s(초당 테라바이트) 대역폭을 지원할 예정이다. 이는 지난달 양산 출하를 개시한 최신작 6세대 HBM4의 13Gbps 전송속도와 3.3TB/s 대역폭을 뛰어넘는 수치다.

삼성전자는 HBM4의 양산을 통해 축적한 1c(10나노급 6세대) D램 공정 기반 기술 경쟁력과 삼성 파운드리의 4㎚(나노미터) 베이스 다이(HBM 맨 아래 탑재되는 핵심 부품) 설계 역량을 바탕으로 HBM4E 개발을 가속한다는 계획이다.

삼성전자 측은 “HBM4E는 메모리와 자체 파운드리, 로직 설계, 첨단 패키징 기술 등 부문 내 모든 역량을 결집한 최적화 협업을 통해 개발하고 있다”고 했다.

삼성전자가 HBM4의 양산 출하 직후부터 HBM4E을 공개하고 나선 것은 SK하이닉스나 마이크론 등 다른 경쟁사와의 격차를 부각하기 위한 것으로 풀이된다. 삼성전자는 이번 전시에서 'HBM4 히어로 월(Hero Wall)'을 통해 이와 같은 경쟁력이 종합반도체기업(IDM)만의 강점임을 내세웠다.

삼성전자는 또 영상을 통해 열과 압력으로 쌓은 칩을 연결하는 열압착접합(TCB)과 견줘 열 저항을 20% 개선하고 16단 이상 고적층도 지원하는 하이브리드구리접합(HCB) 패키징 기술도 공개했다.

엔비디아와의 협력 관계를 보여주는 전시품도 전면에 배치했다. 엔비디아의 루빈에 탑재되는 HBM4를 비롯해 CPU '베라'용 소캠(SOCAMM·서버용 저전력 메모리 모듈)2, 기업용 6세대 SSD인 'PM1763' 스토리지 등을 통해 베라 루빈 플랫폼의 모든 메모리를 공급할 수 있다는 점을 부각했다.

키워드

#삼성전자 #엔비디아 #GTC #HBM #HBM4E #그록3 #LPU #젠슨황 #베라 #루빈

김민준 기자

다른기사 보기

저작권자 © 중소기업신문