삼성전자·SK하이닉스 모두 전일 대비 하락세
구글이 대규모 언어모델 추론의 메모리 사용량을 낮추는 터보퀀트를 공개하자 반도체 시장이 민감하게 반응했다. 인공지능(AI) 솔루션의 확산이 메모리 수요 증가로 이어진다는 기대가 컸던 터라 구글의 터보퀀트 공개는 반도체 수요 판단의 새 변수가 됐다.
구글의 터보퀀트(TurboQuant) 공개 페이지 [사진=Google Research 캡처]
구글이 지난 24일 내놓은 터보퀀트는 키값 캐시를 낮은 비트로 압축해 대규모 언어모델 추론에 필요한 메모리 사용량을 줄이는 기술이다. 구글에 따르면 별도 재학습이나 미세조정 없이 키값 캐시를 3비트 수준까지 양자화 가능하며, 메모리 사용량은 최소 6배 줄고 엔비디아 H100 기준 어텐션 연산(Attention Logit) 속도는 최대 8배 빨라진다. 검증은 젬마와 미스트랄 등 공개 모델을 활용한 장문 문맥 평가로 이뤄졌다.
구글의 터보퀀트 공개 뒤 미국 증시에서는 메모리와 스토리지 종목이 약세를 보였다. 현지시간 이달 26일 샌디스크는 5.7%, 마이크론은 3.0%, 웨스턴디지털은 4.7%, 시게이트는 4.0% 내렸다. 같은 날 나스닥100이 오른 점을 감안하면 조정은 메모리 관련 종목에 집중됐다.
국내 증시도 조정이 이어졌다. 27일 오전 11시 16분 기준 삼성전자는 17만3100원으로 전일 18만100원보다 7000원(3.89%) 내렸다. 장중 고가는 17만5400원, 저가는 17만2000원이었다. SK하이닉스는 오전 11시 18분 기준 89만500원으로 전일 93만3000원보다 4만2500원(4.56%) 하락했다. 장중 고가는 90만5000원, 저가는 88만원이었다.
최근 인공지능 서버 투자에서는 고대역폭 메모리와 일반 D램, 스토리지 수요가 함께 늘어날 것이라는 기대가 컸다. 문맥이 길어질수록 KV 캐시가 커져 추론 비용이 올라가자 일반 메모리와 스토리지를 보조적으로 활용하는 방식도 늘었다. 그러나 구글이 이 부담을 크게 낮추는 기술을 내놓으면서 추론 효율이 높아지면 메모리 탑재량이 예전만큼 늘지 않을 수 있다는 관측도 고개를 들었다.
터보퀀트가 처음 제시된 개념은 아니다. 엔비디아의 NVFP4, 마이크로소프트의 딥스피드, 학계의 KIVI와 KVQuant 등 KV 캐시를 압축하는 기술은 이미 나와 있다. 구글의 발표가 주목을 받은 것은 압축 과정에서 추가로 드는 연산 부담을 줄인 데다 이를 오픈소스로 공개해 실제 적용 가능성을 더 넓혔기 때문이다.
아울러 터보퀀트가 장기 수요 감소로 이어진다고 단정하기는 어렵다. 이 기술은 모델 가중치 전체나 학습용 메모리보다 추론 단계의 키값 캐시 부담을 낮추는 데 초점이 맞춰져 있다.
삼성전자의 HBM4 [사진=삼성전자 홈페이지 캡처]
같은 메모리 용량으로 더 긴 문맥과 더 많은 동시 요청을 감당할 수 있다면 전력 사용과 서버 구축 비용을 줄일 수 있다. 메모리 용량이 같아도 처리할 수 있는 작업량이 늘어나는 만큼 인프라 투자 효율이 높아질 수 있다는 해석도 나왔다.
삼성전자와 SK하이닉스에 이번 조정을 단순한 악재로만 보기 어렵다. 앞으로는 메모리를 더 많이 넣는 경쟁보다 대역폭을 높이고, 맞춤형 고대역폭 메모리(HBM)와 고성능 D램 규격, 메모리 인근 연산에 대응하는 역량이 더 중요해질 수 있다. 구글의 터보퀀트 공개는 인공지능 메모리 시장에서 용량뿐 아니라 성능과 효율도 함께 보게 하는 계기가 됐다.
인기키워드
댓글
0