KV 캐시 6분의 1로 압축…시장은 과도반응, 구조 전환은 현실
구글 리서치가 자사 테크 블로그에 공개한 AI 압축 알고리즘 '터보퀀트(TurboQuant)'는 26일 삼성전자 주가를 4.71% 끌어내리고 SK하이닉스를 6.23% 급락시켰으며, 코스피 지수 전체를 3.22% 하락하게 만들었다. (이미지=게티이미지뱅크/이미지수정=나노바나나프로)
구글이 쏘아 올린 알고리즘 하나가 글로벌 메모리 반도체 시장을 뒤흔들었다. 3월 25일(현지시간), 구글 리서치가 자사 테크 블로그에 공개한 AI 압축 알고리즘 '터보퀀트(TurboQuant)'는 이튿날 삼성전자 주가를 4.71% 끌어내리고 SK하이닉스를 6.23% 급락시켰으며, 코스피 지수 전체를 3.22% 하락하게 만들었다. 미국에서도 마이크론이 3.4%, 샌디스크가 3.5% 빠졌다. 반면 인텔·AMD 등 중앙처리장치(CPU) 제조사의 주가는 오름세를 탔다. 시장은 이 기술이 메모리 수요 구조 자체를 바꿀 수 있다는 가능성에 즉각 반응했다.
KV 캐시란 무엇인가…병목의 정체
터보퀀트는 이름만큼 낯설지 않다. 핵심은 거대언어모델(LLM)이 추론 과정에서 사용하는 'KV 캐시(Key-Value Cache)'를 극적으로 압축하는 기술이다. KV 캐시란 LLM이 사용자와 대화하는 동안 이전 맥락을 실시간으로 기억하는 GPU 위의 임시 저장 공간이다. 대화가 길어질수록 이 공간은 기하급수적으로 팽창하고, AI 추론 비용 전체를 끌어올리는 핵심 병목으로 작동해왔다.
구글 리서치의 아미르 잔디(Amir Zandieh) 연구원과 바하브 미로크니(Vahab Mirrokni) 부사장이 주도한 이 연구는 KAIST 한인수 교수팀, 뉴욕대 연구진과 공동 개발됐다. 기술의 골격은 두 단계다. 첫 단계인 '폴라퀀트(PolarQuant)'는 데이터 벡터를 무작위로 회전시킨 뒤 극좌표계로 변환해, 기존 양자화 방식이 반드시 저장해야 했던 정규화 상수를 제거한다. 두 번째 단계인 '양자화 존슨-린덴슈트라우스(QJL)' 변환이 잔여 오류를 1비트로 교정한다. 이 두 단계의 결합이 KV 캐시를 3비트 수준으로 압축하면서도 모델 정확도를 손상시키지 않는다는 것이 구글의 주장이다.
수치는 극적이다. 구글은 엔비디아 H100 GPU 기준으로 4비트 모드에서 비압축 32비트 대비 추론 속도가 최대 8배 빨라지고, KV 캐시 메모리는 최소 6분의 1 수준으로 줄어든다고 밝혔다. 검증 벤치마크로는 롱벤치(LongBench), 니들 인 어 헤이스택(Needle in a Haystack), 제로스크롤스(ZeroSCROLLS) 등이 사용됐으며, 오픈소스 모델인 Llama-3.1-8B-Instruct와 Mistral-7B-Instruct에 적용한 결과 104K 토큰까지 4배 압축 상태에서도 100% 검색 정확도를 유지했다고 연구팀은 보고했다.
"구글의 딥시크 모먼트"…시장은 왜 흔들렸나
클라우드플레어 최고경영자(CEO) 매튜 프린스는 이 기술을 "구글의 딥시크 모먼트"라고 표현했다. 지난해 초 중국 딥시크가 훨씬 적은 연산 자원으로 고성능 AI 모델을 구현하며 반도체 시장을 충격에 빠뜨렸던 것처럼, 터보퀀트가 소프트웨어만으로 메모리 병목을 해결할 수 있음을 보여줬다는 비유다. 당시 딥시크 쇼크 때도 삼성전자, SK하이닉스, 엔비디아 주가가 급락했다. 그리고 한 달도 지나지 않아 시장은 이전 수준을 회복하고 오히려 상승을 이어갔다.
그 맥락 때문에 이번에도 전문가들은 주가 반응이 과도하다는 입장을 취하고 있다. 핵심 반론은 기술적 범위에 대한 것이다. 터보퀀트가 줄이는 것은 GPU 위의 KV 캐시, 즉 추론 과정의 임시 메모리다. AI 학습에 쓰이는 대규모 HBM(고대역폭메모리) 수요나 데이터센터 전체의 DRAM 수요는 이 기술의 작용 범위 밖에 있다.
HBM은 완판…알고리즘이 공장을 멈추진 않는다
세종대 겸임교수이자 OBF 대표인 안광섭씨는 이 구도를 이렇게 정리했다. "터보퀀트는 사무실 책상 위의 메모 정리법을 개선한 것이고, HBM 수요는 건물 자체에 더 많은 사무실이 필요한 것이다." 메모 정리가 잘 된다고 건물 수요가 줄지 않는다는 논리다. 시장조사기관 트렌드포스(TrendForce)에 따르면 2026년 HBM 수요는 전년 대비 70% 이상 증가할 전망이며, 뱅크오브아메리카(BofA)는 2026년 HBM 시장 규모를 약 546억 달러, 전년 대비 58% 성장으로 추정한다.
SK하이닉스, 삼성전자, 마이크론 3사는 이미 2026년 HBM 생산 물량 대부분을 완판한 상태다. 곽노정 SK하이닉스 대표는 최근 주주총회에서 "모든 장기공급계약(LTA) 요청을 다 반영하기 어렵다"며 공급 타이트함을 공개 인정했다. 이 상황에서 소프트웨어 알고리즘 하나가 거대한 물리적 공급 제약을 즉각적으로 되돌리기는 어렵다는 것이 업계 다수의 판단이다.
KB증권 김동원 연구원은 "터보퀀트 및 딥시크는 모두 저비용·고효율 AI 구현을 위한 소프트웨어 최적화 기술이라는 점에서 의미가 있으나, 향후 5년간 예상되는 AI 데이터센터 투자 확대 속도를 고려할 때 이러한 기술만으로 폭증하는 AI 수요를 감당하기에는 현실적 한계가 존재한다"고 말했다. 같은 증권사의 이창민 연구원도 터보퀀트 등 저비용 AI 기술이 AI 사용 장벽을 낮추고 전체 수요를 폭발시키는 방향으로 작용한다고 분석했다. JP모건 트레이딩 데스크도 보고서를 통해 메모리 효율 개선이 더 많은 데이터 처리로 이어질 수 있다고 평가했다.
효율이 수요를 키운다…제번스의 역설
이 맥락에서 반복 거론되는 이론이 있다. 19세기 영국 경제학자 윌리엄 스탠리 제번스가 정립한 '제번스의 역설(Jevons Paradox)'이다. 석탄 효율이 높아지면 소비가 줄 것이라 예상했지만 실제로는 오히려 석탄 사용 범위가 늘어나 총 소비량이 폭증했다는 관찰이다. 기술 효율이 자원 접근 비용을 낮추면 수요가 더 폭발적으로 확대된다는 원리다. 성균관대 권석준 교수는 "터보퀀트 기술은 메모리를 좀 아끼는 정도가 아니라 추론 인프라 경제성을 바꿀 수 있는 기술"이면서도 "제번스의 역설처럼 좋아진 성능은 전체 메모리 생태계를 확장시킬 수 있다"고 봤다.
실제로 딥시크 등장 이후 흐름이 그랬다. 시장은 고효율·저비용 AI 모델의 등장에 HBM 수요가 줄어들 것을 우려했지만, 낮아진 AI 서비스 비용은 오히려 AI 활용 범위를 폭발적으로 확장시켰고 결과적으로 메모리 수요는 더 가파르게 증가했다. 오터스어드바이저스의 앤드루 잭슨 애널리스트는 "극심한 메모리 칩 공급 제약을 고려할 때 터보퀀트는 수요에 큰 영향을 미치지 못할 것"이라고 밝혔다.
건설 국면에서 최적화 국면으로…구조 전환의 신호
그러나 이번 충격을 단순한 시장의 과민 반응으로만 읽으면 구조적 신호를 놓칠 수 있다. 세종대 안광섭 교수는 AI 인프라 투자 사이클에는 '건설 국면'과 '최적화 국면'이 존재한다고 지적했다. 건설 국면에서는 무조건 깔아라가 전략이었다면, 최적화 국면에서는 기존 인프라에서 최대한 많은 효율을 뽑아내는 것이 전략이 된다. 터보퀀트는 이 국면 전환의 신호일 수 있다는 것이다.
실제로 ICLR 2026에서는 터보퀀트만이 발표 대기 중인 것이 아니다. 엔비디아도 같은 학회에서 KVTC(KV Cache Transform Coding)라는 기술을 발표할 예정인데, 이 기술은 최대 20배 압축도 가능하다고 알려졌다. 하이퍼스케일러들의 자체 AI 칩 개발, 소프트웨어 수준의 메모리 최적화 기술 경쟁, 이 모든 흐름이 동시에 수렴하는 구조다. 마이크로소프트, 메타, 알파벳, 아마존 4사의 2026년 설비투자 가이던스 합산은 약 6,500억 달러에 달하는 것으로 집계됐다. 건설 국면의 규모는 전례가 없지만, 최적화 국면이 병행해서 진입하고 있다는 신호가 곳곳에서 포착된다는 의미다.
논문 수준의 기술…상용화까지는 거리가 있다
터보퀀트의 기술 성숙도도 짚어봐야 한다. 구글은 제미나이(Gemini)에 이 기술을 먼저 적용한 뒤 점진적으로 확산할 계획이라고 밝혔으나, 공식 오픈소스 코드는 아직 공개되지 않았다. 커뮤니티에서는 Triton, MLX, llama.cpp 등 여러 프레임워크로 자체 구현을 시도하고 있지만 주요 AI 서빙 프레임워크(vLLM, Ollama 등)에는 아직 통합되지 않은 상태다. 또한 현재까지 검증된 벤치마크는 80억 파라미터(8B) 수준의 모델에 집중됐으며, 700억 파라미터 이상 대형 모델에서의 성능은 아직 독립 검증이 이뤄지지 않았다.
더 나아가, 압축 효율의 이론적 상한이 이미 임박했을 수 있다는 지적도 존재한다. 터보퀀트 논문 분석에 따르면 이 기술이 정보이론적 하한, 즉 섀넌 한계에 근접해 있어 추가적인 압축 없이 모델 품질을 유지할 수 있는 여지가 이미 많지 않을 수 있다. 압축 효율이 이론적 천장에 다가선다는 것은, 이 방향의 혁신이 앞으로 더 극적인 도약을 만들어내기 어려울 수도 있음을 시사한다.
메모리 기업들이 단순히 더 큰 용량을 제조하는 것만으로는 더 이상 충분하지 않을 것이라는 지적도 나온다. 권석준 성균관대 교수는 "터보퀀트 같은 메모리 압축 기술이 보편화되면 AI 기업들이 메모리 제조사들에 알고리즘 맞춤형 하드웨어 구현을 요구하게 될 것"이라며 "어떤 고객이 어떤 모델을 어떤 용도로 쓰는지까지 고려해서 메모리를 설계해야 하는 시대가 올 것"이라고 내다봤다. CXL(Compute Express Link) 기반의 메모리 풀링 기술처럼 유휴 자원을 효율적으로 분산·관리하는 복합 솔루션의 중요성이 커질 것이라는 시각도 같은 맥락이다.
터보퀀트가 던진 두 개의 질문
결국 터보퀀트가 던진 질문은 두가지다. 첫째, 이 기술이 단기적으로 메모리 반도체 수요를 갉아먹는 변수가 될 것인가. 이 물음에 대한 지금 시점의 답은 '아직은 아니다'에 가깝다. 2026년 HBM 물량은 이미 완판됐고, 공급 부족은 소프트웨어가 아닌 팹 건설과 수율이라는 물리적 제약에서 비롯된 것이다. DRAM 수요 증가율은 2026년에도 전년 대비 18%가 예상되는 반면, 공급 증가율은 16%에 그칠 전망이어서 수급 타이트함이 해소되기 어렵다는 분석도 있다.
둘째, 이 기술이 메모리 산업의 장기 구조를 어떻게 재편할 것인가. 이 물음에 대한 답은 훨씬 복잡하다. 추론 비용이 낮아지면 AI 활용 범위는 폭발적으로 확장될 것이고, 그것이 결국 메모리 수요의 총량을 확대하는 방향으로 작용할 가능성이 높다. 하지만 동시에 메모리 기업들에 요구되는 것이 달라진다. 용량의 경쟁에서 설계의 경쟁으로, 표준 제품에서 고객 맞춤형 솔루션으로, 하드웨어 공급자에서 AI 생태계의 파트너로의 전환이다. 그 전환을 얼마나 빠르게, 얼마나 정밀하게 소화하느냐가 향후 한국 메모리 기업들의 경쟁력을 가르는 기준점이 될 것이다.
구글이 수학 공식 하나로 시장을 흔든 이번 사태는 AI 시대 메모리 산업의 민감도를 적나라하게 드러냈다. 그 민감도는 위기의 신호이기도 하지만, 기민하게 대응하는 기업에게는 구조 전환의 기회이기도 하다. [프레스맨]
댓글
0