AI 메모리 6배 압축·처리속도 8배 향상 알고리즘 등장에 반도체주 출렁
"논문 단계에 불과...AI 대중화 오히려 수요 폭발 부를 것" 반론 확산
[프레스나인] 구글이 AI 모델의 메모리 사용량을 최대 6배 줄일 수 있다는 압축 알고리즘 '터보퀀트(TurboQuant)'를 공개하자 삼성전자와 SK하이닉스를 비롯한 글로벌 메모리반도체 기업 주가가 일제히 하락했다. 고대역폭반도체(HBM) 수요가 감소할 것이라는 우려 때문이다.
그러나 전문가들은 해당 기술이 당장 반도체업계에 미치는 영향이 미미한 수준이며, 장기적으로 봤을 때는 오히려 HBM의 수요를 키우는 방향으로 작용할 공산이 크다는 분석을 내놓고 있다.
터보퀀트가 무엇인지 이해하려면 AI가 대화하는 원리부터 짚어야 한다.
대형언어모델(LLM)은 사용자와 긴 대화를 이어갈 때 이전 대화 내용 전체를 빠르게 불러올 수 있도록 '키-값 캐시(KV cache)'라는 단기 기억 저장소를 메모리에 상주시킨다. 문맥이 길어질수록 이 캐시가 기하급수적으로 불어나고, AI 서버는 이를 처리하기 위해 막대한 고속 메모리, 즉 HBM을 필요로 한다.
터보퀀트는 이 캐시 데이터를 3비트(FP3) 형식으로 정확도 손실 없이 압축하는 알고리즘으로, 별도의 학습이나 파인튜닝 없이 기존 AI 모델에 바로 적용할 수 있어 실용성이 높다. 이름의 '퀀트(Quant)'는 양자컴퓨팅(Quantum)이 아닌 데이터 양자화(Quantization), 즉 고정밀 수치를 더 적은 비트로 근사 변환하는 압축 기법을 가리킨다.
기존 압축 방식의 고질적 한계는 데이터를 압축하면서 나중에 복원하는 데 필요한 '양자화 상수'라는 메타데이터를 따로 저장해야 한다는 점이었다. 이 부가 정보가 값당 1~2비트씩 공간을 추가로 차지해 압축 효과 자체를 일부 상쇄해 왔다.
터보퀀트는 두 단계 수학 처리로 이 문제를 해결했다. 첫 단계 'PolarQuant'는 벡터 데이터 좌표계를 극좌표로 변환해 부가 저장 없이 효율적 압축을 구현하고, 두 번째 단계 'QJL'이 단 1비트로 잔여 오류를 교정하는 방식이다.
이 구조 덕분에 엔비디아 H100 GPU에서 4비트 적용 시 32비트 비압축 대비 처리 속도가 최대 8배 향상되는 성능을 보였다. 구글은 다음 달 브라질에서 열리는 국제 AI 학술대회 ICLR 2026에서 상세 연구 결과를 정식 발표할 예정이다.
이 기술이 삼성전자·SK하이닉스를 직접 겨냥한 위협으로 받아들여진 배경에는 두 회사의 구글향 HBM 공급 구조가 있다. 구글의 텐서처리장치(TPU)는 칩 하나당 HBM 모듈을 6~8개 탑재하고 있어, TPU 보급이 늘수록 HBM 수요가 그대로 불어나는 구조다.
삼성전자는 2025년 브로드컴을 통해 구글 TPU용 HBM3E 공급량의 60% 이상을 담당했으며, 2026년에도 구글의 주요 HBM 공급사 지위를 유지할 것으로 전망된다. 구글의 8세대 TPU는 HBM4로 전환이 예정된 가운데, 삼성전자가 2026년 구글에 공급하는 HBM 물량은 전년 대비 2배 이상으로 늘어날 것으로 업계는 보고 있다. SK하이닉스도 TSMC 12nm 공정을 기반으로 한 서버용 HBM4 양산 일정을 앞당기며 구글·엔비디아 양쪽 수요 모두에 대응하고 있다.
그러나 시장의 우려가 과도하다는 반론이 속속 제기되고 있다.
먼저 터보퀀트는 LLM 추론 과정의 KV 캐시만 최적화하는 기술로, 거대 AI 모델 학습(training) 단계에는 적용이 불가능하다. HBM이 가장 집중적으로 소모되는 구간이 학습이라는 점을 감안하면, HBM 공급사에 대한 실질적 단기 영향은 거의 없다는 분석이 나온다.
또한 터보퀀트가 내세우는 '6배 절감·8배 속도 향상'은 32비트 비압축 데이터 기준의 이론상 최댓값으로, 현실에서 AI 추론의 대부분은 이미 8비트(FP8) 이하로 처리되고 있어 실질적인 추가 절감 효과는 그보다 훨씬 제한적이라는 지적도 있다.
증권업계에서는 구글이 연구 논문으로만 결과를 공개한 단계로 실제 상용화까지 상당한 시간이 걸릴 수 있다는 점에서도 이번 주가 하락이 과도하다고 지적한다.
만약 실제로 터보퀀트가 상용화해 메모리 사용량을 대폭 줄이는 효과가 나타날 경우, 이는 HBM 사용량을 더욱 키울 가능성이 높다는 시각이 지배적이다.
자산관리회사 퀼터 시보트(Quilter Cheviot)는 CNBC에 "이번 주가 하락은 강세장 이후 차익 실현이 주요 원인"이라며 "터보퀀트는 진화적 기술이지 혁명이 아니고, 업계의 장기 수요 구조를 바꾸지 않는다"고 말했다. 유진투자증권은 공급이 이미 빠듯한 AI 관련 서버·반도체 섹터가 다른 산업군보다 더 높은 회복력을 보일 것이라고 전망했다.
DS투자증권은 "메모리 소비를 줄이는 기술은 대체로 전체 수요를 감소시키기보다 확장하는 방향으로 작동해 왔다"며 "터보퀀트의 등장 자체가 AI 인프라의 메모리 수요가 임계점에 달했다는 방증"이라고 분석했다. 그리고 효율 개선이 비용 절감을 낳고, 낮아진 비용이 이용률 증가와 재투자로 이어지는 순환 구조에서 총수요는 오히려 늘어날 수 있다고 덧붙였다. 포브스도 하드웨어 진입 장벽이 낮아지면 로컬 AI 프로젝트가 가속돼 장기적으로 칩 소비가 역설적으로 더 증가할 수 있다는 분석을 내놨다.
한편 시장 조사업체 트렌드포스는 2026년 HBM 소비량이 전년 대비 70% 이상 증가할 것으로 예측하며, AI 가속기의 차세대 HBM 전환과 탑재 스택 수 확대를 수요 성장의 핵심 동력으로 꼽았다.
공급 측면의 제약도 낙관론을 뒷받침한다. 삼성전자는 2026년 HBM 생산능력을 월 25만 장 수준으로 끌어올리겠다는 계획이며, SK하이닉스도 M15X 신규 팹을 당초 일정보다 4개월 앞당겨 1b DRAM 기반 HBM4 생산에 돌입했다. 두 회사 모두 수요 폭발에 대비한 공급 확대를 이미 진행 중이라는 점에서, 터보퀀트 한 장의 논문이 수년에 걸쳐 구축된 투자 계획을 단번에 뒤집기는 어렵다는 전망이 우세하다.
터보퀀트를 발표한 구글리서치 홈페이지.
Tag
댓글
0