SK하이닉스, '엔비디아 맞춤형' 차세대 D램 양산 시작… AI 서버 병목 해...

엔비디아 차세대 플랫폼 '베라 루빈' 최적화 모듈

1c 나노 공정 적용해 기존 대비 전력 효율 75% 향상

대규모 AI 연산 과정의 데이터 지연 현상 근본 해결

SK 하이닉스가 10나노급 6세대(1c) LPDDR5X 저전력 D램 기반 차세대 메모리 모듈 규격인 SOCAMM2 192GB 제품을 본격 양산한다 [SK하이닉스 제공]

SK하이닉스는 인공지능(AI) 서버에 탑재되는 차세대 고용량 메모리 모듈 양산에 돌입했다고 20일 밝혔다. 이번에 대량 생산을 시작한 제품은 10나노급 6세대(1c) LPDDR5X 기술을 바탕으로 개발한 'SOCAMM2' 192GB 규격이다.

SOCAMM2는 본래 스마트폰, 태블릿 등 모바일 기기에 주로 쓰던 저전력 메모리를 대규모 서버 시스템 환경에 맞춰 변형한 부품이다. 얇은 두께로 설계해 서버 내부의 공간 활용도와 부품 확장성을 높였다. 여기에 압착 방식의 커넥터를 결합, 데이터 신호가 온전하게 전달되도록 성능을 끌어올리면서 모듈 교체 작업도 쉽게 할 수 있도록 고안됐다.

최신 미세 공정을 적용한 신제품은 기존 서버용 D램 모듈(RDIMM)과 비교해 성능이 크게 개선됐다. 데이터를 주고받는 통로인 대역폭은 기존 대비 2배 이상 늘어났으며, 전력 소모를 나타내는 에너지 효율은 75% 이상 높아졌다. 이를 통해 AI 연산을 처리하는 과정에서 발생하는 막대한 전력 소비 부담을 크게 덜어낼 수 있다.

SK 하이닉스가 10나노급 6세대(1c) LPDDR5X 저전력 D램 기반 차세대 메모리 모듈 규격인 SOCAMM2 192GB 제품을 본격 양산한다 [SK하이닉스 제공]

회사는 이번 신제품이 미국 엔비디아의 차세대 AI 플랫폼 '베라 루빈(Vera Rubin)' 구동에 맞춰 최적화된 설계가 적용됐다고 설명했다.

수천억 개 단위의 매개변수를 보유한 초거대 AI 모델은 방대한 데이터를 학습·추론하는 과정에서 그래픽 처리 장치(GPU)의 연산 속도를 메모리가 따라가지 못하는 병목 현상을 겪는다. 이번 대용량 모듈은 데이터 공급 지연 문제를 차단, 전체 시스템 처리 속도를 크게 높이는 역할을 한다.

최근 전 세계 AI 산업의 중심이 초기 학습 단계에서 실질적 추론 단계로 넘어가면서, 전력 소모가 적으면서도 거대 언어 모델(LMM)을 원활하게 구동할 수 있는 차세대 메모리 수요가 늘고 있다. SK하이닉스는 이 같은 시장 변화와 클라우드 서비스를 제공하는 글로벌 기업들의 요구에 발맞춰 제품 양산 체제를 조기에 안정화했다.

김주선 SK하이닉스 AI Infra 사장은 "SOCAMM2 192GB 대용량 제품 공급을 통해 AI용 메모리 성능의 새로운 기준을 세웠다"며 "글로벌 AI 고객들과 긴밀히 협력해 시장에서 가장 신뢰받는 부품 기업으로 확고히 자리매김하겠다"고 말했다.