구글 리서치팀이 AI 모델 압축 알고리즘 '터보퀀트(TurboQuant)'를 발표하면서 HBM 관련 주가가 요동쳤다. 구글 리서치팀에 따르면 터보퀀트는 LLM(거대언어모델)이 긴 문장을 처리할 때 발생하는 메모리 병목 문제를 소프트웨어만으로 해결한다. 중요한 것은 이 과정에서 모델의 정확도가 손실되지 않는다는 점이다. 모델을 다시 학습시킬 필요도 없다.
이는 HBM 사용 또한 크게 줄일 수 있다는 뜻이어서 삼성전자, SK하이닉스 등 HBM 제조기업들의 주가가 5~6% 하락하는 등 영향을 받았다. 발표 24시간 만에 오픈소스 커뮤니티가 주요 AI 라이브러리에 이식하기 시작했다.
일각에서는 HBM 업체의 호시절이 끝날 것으로 전망한다. 우선 제번스 파라독스(Jevons Paradox)가 작용할 것으로 보인다.
구글 리서치팀이 AI 모델의 정확도를 낮추지 않으면서 KV 캐시 메모리를 줄이는 알고리즘 '터보퀀트(TurboQuant)'를 발표했다.
터보퀀트는 AI 모델의 키값(KV, Key-Value) 캐시를 압축함으로써 메모리 사용을 줄인다.
LLM은 문장을 처리하는 동안 앞서 등장한 단어들을 계속 참조해야 하는데 이 참조 정보를 저장하는 공간이 'KV(Key-Value) 캐시'다. 대화가 길어질수록, 문맥 창이 넓어질수록 이 캐시는 선형적으로 불어나고 KV 캐시를 저장하는 데 필요한 메모리 역시 비례 증가한다.
KV 캐시는 GPU 메모리를 잠식할 뿐 아니라 추론 속도도 저하시킨다. 예를 들어 GPT-4급 모델이 100만 토큰 컨텍스트를 처리할 때 KV 캐시만 수백GB에 달한다. 엔비디아 A100 GPU 한 장의 전체 메모리(80GB)를 훌쩍 넘는 규모다. 이를 해결하려면 GPU를 더 구매해야 한다. 터보퀀트는 '양자화(Quantization)'를 통해 저장하는 숫자를 더 작게 만드는 방법을 택했다.
◇ 모델 가중치의 양자화와 KV 캐시 양자화의 차이는?
KV 캐시의 비대화는 AI 모델의 고질적인 문제다. 이를 해결하기 위한 기술이 터보퀀트가 처음은 아니다. 유사 목적을 가진 기술들이 개발 중이며 이 기술들이 의존하는 방식은 크게 세 가지다. △양자화(Quantization) △토큰 제거와 선택(Eviction/Selection) △구조적 최적화 설계가 그것으로, 터보퀀트는 양자화 진영이다.
양자화는 데이터의 정밀도를 낮추는 대신, 저장 공간을 확보할 수 있는 기술이다.
컴퓨터는 모든 숫자를 비트(0과 1)의 나열로 저장한다. LLM이 추론할 때 KV 캐시의 각 숫자(벡터 데이터)는 기본적으로 32비트(4바이트) 부동소수점(float32)으로 표현된다. 소수점 아래 일곱 자리 이상의 정밀도를 가진 숫자로, 비트가 많을수록 숫자를 더 정밀하게 저장할 수 있다. 양자화는 이 숫자를 3~4비트짜리 정수로 '반올림'해 데이터 크기를 줄이는 기술이다. 0.7382910…이라는 숫자가 단 3비트로 표현할 수 있는 0~7 사이의 정수 5로 바뀐다.
양자화는 원래도 모델 가중치에 쓰여온 기법이지만, 구글 터보퀀트 등은 이를 KV 캐시에 적용했다. 양자화 기법을 KV 캐시에 적용하는 것은 다른 차원이다. 모델이 긴 텍스트를 처리하는 동안 실시간으로 생성되는 임시 데이터(KV 캐시)를 압축하는 것은 쉽지 않다. 모델 가중치에서의 양자화는 사전에 진행시켜놓을 수 있고 처리 속도가 다소 느려도 크게 문제되지 않는다. 그러나 KV 캐시는 추론 중에 실시간으로 압축해야 한다.
또 기존 양자화는 값의 범위를 맞추기 위해 스케일(scale), 영점(zero-point) 등 추가 정보를 함께 저장해야 해서 압축 효율이 떨어진다. 예를 들어 0.7382...라는 7자리 숫자를 3비트 정수 5로 압축했다면, 나중에 이 5를 다시 원래 범위의 숫자로 되돌려야 계산을 할 수 있는데, 되돌리기 위해서는 원래 숫자들이 어느 범위에 있었는가 정보(기준표)가 필요하다. 스케일과 영점이 이 기준표로, 문제는 벡터 수천만 개 각각에 기준표를 붙여야 한다는 것이다. 벡터마다 값의 범위가 다르기 때문으로, 결국 압축으로 아낀 메모리를 기준표가 다시 소모하게 된다.
그러나 기존 양자화 기법에서 가장 큰 문제는 양자화에 따라 발생한 오차로 답변 품질이 영향 받는 것이다.
양자화를 적용하면 저장 공간이 10분의 1 이하로 줄어드는 대신, 원래 값과의 미세한 오차가 발생한다. 이 오차가 누적되면 모델의 답변 품질이 눈에 띄게 저하된다. 터보퀀트가 특히 큰 반응을 얻고 있는 것은 바로 이 점이다.
모델의 정확도가 유지되지 않는 압축 알고리즘, 메모리 병목 해소는 사실 무용하다. 구글 터보퀀트는 용량 압축과 모델 정확도를 동시 충족시키기 위해 자체 개발 기술인 폴라퀀트(PolarQuant)와 QJL(Quantized Johnson-Lindenstrauss)에 기반을 두고 있다. 먼저 고품질 압축을 담당하는 폴라퀀트가 수행되고 뒤이어 QJL가 남은 오류를 제거하는 수순을 거친다.
◇ 양자화에 따른 모델 정확도 손상을 폴라퀀트, QJL로 해결
터보퀀트, 폴라퀀트, QJL에 대한 논문은 2024년과 2025년에 걸쳐 아미르 잔디에(Amir Zandieh) 등 구글 리서치팀 소속 연구원들이 발표했다. 논문의 아이디어를 실제 소프트웨어로 만들어낸 것이다. 우리나라 한인수 KAIST 전기전자공학부 교수도 참여했다. 특히 아미르 잔디에는 QJL에 관한 논문('QJL: 1-Bit Quantized JL Transform for KV Cache Quantization with Zero Overhead')을 2024년 7월 발표할 때는 독립 연구원 신분이었으나 이후 폴라퀀트 등 논문부터는 구글 연구원으로 명기돼 있다.
지난해 2월 발표된 구글 폴라퀀트 논문. 한인수 카이스트 교수가 공동저자로 이름을 올렸다.
폴라퀀트는 KV 캐시 내 데이터 압축, 즉 양자화(반올림)를 진행할 때 오차를 줄이는 역할을 한다.
AI의 KV 캐시를 구성하는 벡터(다차원 숫자 묶음)는 차원마다 값의 분포가 제각각이다. 어떤 축은 값의 범위가 넓고, 어떤 축은 좁다. 벡터 데이터 자체의 특성이다. 이 상태에서 일괄적으로 양자화를 적용하면 오차가 차원마다 불균일하게 발생하고 모델의 답변 정확도는 떨어진다.
터보퀀트의 폴라퀀트 알고리즘은 양자화 전에 각 벡터에 동일한 직교 행렬(orthogonal matrix) 변환을 적용해 값들을 여러 좌표로 나눠 퍼뜨리는 수학적 섞기 연산을 수행함으로써 기존 양자화의 한계를 완화한다. 이 변환 자체는 정보 손실 없이 데이터의 표현만 바꾸며, 각 차원에서 관측되는 값의 분포의 편중을 줄이고 보다 균일하게 보이도록 만든다.
이 상태에서는 모든 값이 유사한 범위를 가지므로 동일한 기준으로 양자화해도 전체 정보가 비교적 잘 유지된다. 또한 벡터마다 별도의 스케일이나 기준을 둘 필요 없이 하나의 공통 기준(스케일, 영점)만으로도 표현이 가능해져, 기존 양자화 기법에서 문제됐던 압축 효율과 정확도를 동시에 높일 수 있다.
QJL 변환을 통한 KV 캐시 양자화 논리. 잔디에 구글 연구원이 이 논문을 쓸 당시에는 독립 연구원 신분이었다. (자료 출처=논문 'QJL: 1-Bit Quantized JL Transform for KV Cache Quantization with Zero Overhead')
폴라퀀트가 정밀 압축을 담당한다면, QJL은 오류 보정 역할을 맡는다. QJL은 압축된 결과에서 남아 있는 오차를 따로 다루는 방식이다. 이는 1984년 수학자 존슨과 린든슈트라우스가 증명한 JL 정리(Johnson-Lindenstrauss 정리)를 토대로 하고 있다.
KV 캐시 연산의 본질은 두 벡터가 얼마나 유사한지 판단하는 것이다. 폴라퀀트로 오차를 최소화한다고 해도 원래 값과 완전히 같을 수는 없다. 오차 자체를 없앨 수는 없는데, 남아 있는 작은 오차가 AI 모델에서는 문제를 유발할 수 있다. AI는 데이터를 볼 때 벡터들 사이의 관계, 특히 유사도를 기준으로 판단하기 때문이다.
예를 들면 AI가 강아지-고양이-장미나무를 판단할 때 각 벡터의 관계, 즉 내적이나 유사도를 계산하는데, 압축 과정에서 생긴 작은 오차가 이 관계를 미묘하게 틀어버릴 수 있다. 겉보기에는 숫자가 비슷해 보여도, 실제로는 비슷한 것과 비슷하지 않은 것의 구분이 흐려질 수 있다.
그런데 이 판단에 반드시 정확한 수치가 필요한 것은 아니다. JL 정리는 벡터를 더 낮은 차원으로 바꾸면서도 데이터들 사이의 거리(유사도)는 유지된다는 것을 증명한 방법이다. 수학자 존슨과 린든슈트라우스가 증명한 정리에 따르면, 고차원 벡터를 무작위 행렬로 저차원에 투영해도 벡터 간의 거리 관계는 보존된다. 비유하자면 다수의 복잡한 3D 입체 모형들을 그림자로 벽에 비췄을 때 2D 그림자들끼리의 거리는 실제 모형들 사이의 거리와 거의 다르지 않다.
QJL은 JL 정리에 의한 변환을 하고, 한 발 더 나아간다. 고차원 벡터를 더 낮은 차원으로 투영한 뒤, 숫자 자체를 버리고 부호(+/-)만 남긴다. 각 값의 정확한 크기는 버리고 0을 기준으로 벡터(숫자)가 양수인지 음수인지만 남겨 부호로 표현함으로써 데이터를 극단적으로 압축한다. 숫자 하나를 32비트 대신 1비트로 표현할 수 있어 메모리를 크게 줄일 수 있고 속도 또한 빨라진다.
그럼에도 데이터 간의 유사성은 유지된다. 비록 값의 크기 정보는 사라지지만 서로 비슷한 벡터일수록 부호 패턴 또한 유사하게 나타나는 성질이 있기 때문에 벡터 간의 유사도(얼마나 비슷한지)는 여전히 유지된다.
여기서 끝나는 것이 아니라 QJL은 이후 압축 과정에서 발생한 오차가 유사도 계산에 미치는 영향을 최소화하도록 보정까지 수행한다. 숫자를 아주 적은 비트로 줄이게 되면, JL 변환을 해도 데이터 간 유사도가 왜곡될 수 있다. JL 변환은 유사도를 잘 보존하는 방향을 알려주지만 오차 문제에서 완전히 자유롭진 않다.
QJL은 압축 과정에서 발생한 오차가 벡터 간의 관계를 망가뜨리지 않도록 보정해주는 역할을 한다. 전체 데이터를 다시 복원하는 것이 아니라, AI가 중요하게 보는 관계(유사도)에 집중해 오차를 조정한다. 즉, 아주 작은 정보로도 전체적인 의미 관계를 최대한 정확하게 유지하도록 만들어주는 것이 QJL 기술이다.
구글 리서치는 터보퀀트를 자사의 젬마-7B(Gemma-7B), 오픈소스 모델인 미스트랄(Mistral)-7B-v0.1, 메타의 라마(Llama-3-8B) 등 오픈 가중치(Open-weights) 모델들에 적용해 테스트했다. 메모리 사용량은 5~6배, 최대 8배 빠른 추론 속도를 보였다고 전하고 있다. 테스트에 사용된 벤치마크 툴은 롱벤치(LongBench), NIAH(Needle In A Haystack), 제로스크롤(ZeroSCROLLS), 룰러( RULER), L-Eval 등이다.
이 결과에 따르면 터보퀀트 적용 모델은 KV 캐시를 2.5~3.5비트 수준으로 압축했는데 이는 표준 16비트(FP16) 대비 메모리 사용량을 약 5배~6배 절감한 수치다. 원본 모델과 정확도를 비교했을 때에는 3.5비트 압축 시 성능 저하가 거의 없는 '무손실(Lossless)' 수준, 2.5비트의 극단적 압축 시에는 이보다 정확도는 떨어지나 KIVI 등 다른 양자화 기법보다 훨씬 높은 정확도를 유지했다고 주장한다.
또 추론 속도(Throughput&Latency) 역시 크게 향상됐다. 엔비디아 H100 GPU에서 어텐션 속도를 테스트했을 때, 원본 모델 대비 최대 8배 빨라졌는데, 어텐션 연산 속도 향상은 토큰을 하나씩 생성하는 디코딩 단계에서의 추론 속도 개선으로 이어진다. 첫 토큰이 시작되는 TTFT(Time To First Token)는 KV 캐시를 가지지 않으므로 큰 차이 없지만 이후 전체 생성 속도가 비약적으로 빨라졌다고 소개하고 있다. 이는 긴 대화(Long Context)에서 특히 중요하다.
무엇보다 이러한 효과를 모델 재학습하거나 미세 조정 없이 누릴 수 있다는 점에 주목해야 한다. 다른 KV 캐시 양자화 기술과 비교했을 때 구글 터보퀀트에 이목이 쏠리는 이유이기도 하다. 수정 없이 모델의 정확도를 유지한다는 점이다.
구글 리서치가 밝힌 터보퀀트의 벤치마크 테스트 결과. (자료 출처=구글 리서치)
2024년 발표된 대표적 KV 캐시 양자화 기법인 KIVI의 경우 압축률이 높아질수록 정확도는 하락한다. KIVI는 KV 캐시에 저장되는 벡터를 그대로 유지한 상태에서, 각 값들을 더 적은 비트 수(2~4비트)로 양자화해 메모리를 줄인다. 보정 후 압축하는 터보퀀트와 달리, KIVI는 원본 그대로 압축하기 때문에 5배 이상 압축 시 정확도가 급격히 떨어진다는 평가를 받고 있다. 문장이 길어지면 AI가 앞 내용을 잊어먹거나 환각(할루시네이션)을 할 가능성이 높아지는 것이다.
또 기존 값을 유지한 채 압축함으로써 발생하는 왜곡을 최소화하기 위해 추가적인 보정 정보를 함께 사용하게 된다. 이를 잔류 캐시(residual cache)라고 부른다. 이러한 이유로 모델의 미세조정이 필요한 경우가 발생하기도 한다.
엔비디아 KVTC(KV Token Compression)는 이미지 압축(JPEG)이나 영상 압축과 유사한 논리를 AI 데이터에 적용한다. 특히 데이터의 중복성을 제거하는 데 초점을 맞추고 있다. 주성분 분석(PCA, Principal Component Analysis)을 통해 벡터 공간 안에서 서로 밀접한 관계(유사한 성질)를 가진 K, V 데이터를 찾아내고, 비슷한 데이터 집단을 하나의 대표적인 값으로 치환한 후 나머지는 그 대표값과의 차이만 기록한다. 그리고 문맥 파악에 중요한 데이터는 정밀하게 저장하고 덜 중요한 데이터는 과감하게 압축률을 높이는, 적응형 압축(Adaptive Compression)을 적용한다.
구글 리서치팀은 2025년 2월 발표한 폴라퀀트 논문에서 폴라퀀트와 KIVI 등을 라마-3.1에 적용한 '롱벤치' 테스트 결과를 게재했다. 롱벤치는 LLM의 긴 문맥(Long-context) 이해, 처리 능력을 평가하는 벤치마크 테스트 툴이다. (자료 출처='PolarQuant: Quantizing KV Caches with Polar Transformation')
단점은 하드웨어 종속성이 높다는 것과 압축과 해제 시 오버헤드다. 엔비디아 최신 GPU에 최적화돼 있어 AMD나 구글 TPU 등 타사 가속기나 범용 환경에서는 성능을 제대로 발휘하기 힘들다. 또 압축률은 20배로 매우 높지만 PCA 분석과 행렬 연산을 수행하는 압축과 해제 과정이 복잡하고, 이 과정에서 GPU를 사용한다.
그리고 유사 데이터를 묶는 방식이기 때문에 미세한 문맥 차이가 중요한 복잡한 논리 문제나 코딩 작업에서는 실수할 가능성이 할 가능성이 KIVI나 터보퀀트보다 높다는 점, 모델마다 PCA 작업 등 사전 보정(calibration)이 필수라는 점 등도 지적된다.
결론적으로 구글 터보퀀트는 △수학적으로 오차 범위를 보장하며(모델 정확도 유지) △보정 없이 어떤 모델에도 바로 적용된다는 점에서 기존의 KV 캐시 양자화 기술들보다 앞서 있다. 더불어 KV 캐시 비대화 해소 기술 중 하나인 토큰 제거(SnapKV 등) 기술과 병용할 수 있다는 점에서 더욱 기대가 크다.
두 기술은 서로 간섭하지 않고 독립적으로 작동한다. 이론적으로는 터보퀀트(양자화)를 통해 개별 데이터의 크기를 6배 줄이고(16비트에서 2.5비트로) SnapKV는 저장할 데이터의 개수를 16배 줄일 수 있다. 즉, 6×16=96배의 메모리 절감이 가능해진다.
구글 리서치팀이 2025년 4월 발표한 터보퀀트 논문('TurboQuant: Online Vector Quantization with Near-optimal Distortion Rate')에서는 메타의 라마-3.1-8B 모델에 터보퀀트와 기타 압축 기법을 적용해 비교한 테스트 결과를 게재했다. 벤치마크 테스트 툴은 NIAH(Needle-In-A-Haystac)로, 논문에서는 터보퀀트가 4배 이상 양자화시켰음에도 긴 문맥에서의 이해 능력(Long Context Understanding)이 원본 모델과 큰 차이가 없다고 주장했다.
기존에는 GPU 1대에 책 한권 분량(3만 토큰)을 올리기 힘들지만, 두 기술을 합치면 수백만 토큰의 데이터를 메모리에 올리고 실시간으로 대화할 수 있다. H100 GPU 8대가 필요한 작업을 1대만으로도 처리할 수 있다는 뜻이다.
다만 현실적으로는 양자화로 숫자를 뭉뚱그린 상태에서 토큰 제거로 정보까지 버리면 AI가 중요한 세부 사항을 놓칠 확률도 높아진다. SnapKV나 PyramidKV는 중요하지 않은 토큰을 버려서 캐시를 압축하고, 터보퀀트는 모든 토큰을 다 유지하되 더 작게 압축해서 저장하는 차이가 있다. 중요도가 낮다고 해도 토큰을 버리게 되면 추론에 문제가 생길 가능성이 높아진다.
또 터보퀀트와 SnapKV/PyramidKV 두 가지 압축 로직을 실시간으로 동시 처리해야 하므로, 이를 매끄럽게 연결하는 커널 최적화 기술도 필요하다. 양 기술의 고도화와 협업에 따라 발전 방향이 정해질 것으로 보인다.
구글은 터보퀀트 알고리즘과 논문을 무료로 공개했으며 상업적 이용도 허용하고 있다. 커뮤니티 반응도 뜨거우며 이 기술을 사용하면 HBM을 덜 사용할 것이라는 전망에 따라 SK하이닉스와 삼성전자 주가는 하락했다. 그러나 지난 20년 가까이 기업용 스토리지, TV 기술, 스마트폰 등 많은 전자제품의 발전 방향을 살펴보면 이 역시 제번스 역설(Jevons Paradox)가 될 가능성이 높다.
제번스의 역설은 기술의 발전으로 자원 이용의 효율성이 높아졌음에도 불구하고, 오히려 그 자원의 전체 소비량은 늘어나는 현상을 뜻한다. 1865년 영국의 경제학자 윌리엄 스탠리 제번스(William Stanley Jevons)가 관찰한 현상에서 유래했다. 특정 자원의 효율이 높아지면 단위당 비용이 낮아지고, 가격이 저렴해지니 예전에는 엄두내지 못했던 곳에서까지 자원을 쓰기 시작한다. 결과적으로는 해당 자원을 활용한 새로운 산업이 생겨나며 전체 규모는 더욱 커지게 된다.
AI 모델의 KV 캐시 비대화를 해결하기 위한 기술들. (자료 정리=디일렉)
20년 전 기업용 고가용성 스토리지는 1TB에 1억원 내외의 가격을 형성했다. 이후 HDD는 물론 NVME 등 스토리지 기술의 발전으로 현재는 엔터프라이즈 올플래시(All-Flash Array)일 경우에도 약 1TB당 약 1500~3000달러(약 200만~400만원), 하드웨어 전체 이중화와 99.9999% 가용성 등을 보장하는 초고가용성 스토리지는 1TB당 약 4000~7000달러(약 550만~950만원)다. 이처럼 구입 비용이 저렴해졌음에도 기업들은 여전히 데이터 폭증에 시달리고 있다.
스마트폰 또한 그렇다. 2010년 이전 아이폰 1과 갤럭시 S가 제공하는 저장 용량은 4GB에 불과했다. 지금은 1TB다. 그럼에도 마이크로SD 등 보조 장치를 이용한다. TV 역시 FHD(1920×1080)만으로도 감탄하던 시절이 있었지만 지금은 8K(7680×4320) 해상도의 상용 제품들을 볼 수 있다. 인간의 눈으로는 차이를 구분하지 못하는 데도 말이다.
구글 터보퀀트로 메모리 사용이 줄어드는 것이 아니라, 동일 메모리에서 더 많은 기능과 역할을 할 수 있는 새로운 유형의 AI 모델이 등장할 가능성이 높다. 또 동일 기능에서는 메모리를 적게 쓰니 AI 운영 비용이 저렴해지고, 이는 더욱 많은 기업과 개인들이 AI를 사용하도록 만들며, 결국 AI 서비스 전체가 사용하는 GPU 개수와 전력 소모량은 예전보다 더 늘어날 수 있다.
해외 투자정보 분석 매체 마켓워치(MarketWatch)는 "구글 터보퀀트는 KV 캐시 일부에만 적용되는 제한적인 최적화에 불과하며, AI 칩이 여전히 HBM에 크게 의존하고 있어 전체 메모리 수요 감소로 이어질 가능성은 낮다"는 전문가들의 분석을 전했다.
현실적으로는 구글 터보퀀트 덕분에 온디바이스 AI가 더욱 발전될 것으로 보인다. 스마트폰과 같이 메모리가 제한된 기기에서 무거운 모델을 끊김 없이, 아주 긴 대화 기록을 유지하며 돌릴 수 있게 된다.
또 피지컬 AI의 확산에도 기여할 가능성이 있다. AI 모델을 피지컬 AI의 현장 기기에 적용하기 위해서는 모델 경량화가 필수인데, 로봇 스펙이 관건이겠지만 터보퀀트를 사용해 경량화 작업 없이 모델을 온디바이스 환경에 그대로 적용하는 것도 기대해볼 만하다.
구글이 피지컬 AI, 로보틱스를 염두에 두고 터보퀀트를 더욱 발전시킬 가능성도 있다. 최근 구글의 로보틱스 사업 움직임을 지켜보면 허황된 이야기만은 아니다.
박현선 전문기자
댓글
0