[이슈+] 터보퀀트 공포와 역설…효율화가 오히려 '메모리 파이' 키운다

[녹색경제신문 = 정창현 기자] 삼성전자와 SK하이닉스 등 메모리 반도체 기업 주가가 구글의 '터보퀀트(TurboQuant)' 기술 발표 이후 급락했다. 하지만 시장에서는 터보퀀트 기술로 인해 메모리의 중요성이 반감되거나 수요가 감소할 거라는 해석은 과도하다는 의견이 지배적이다.

터보퀀트는 AI 추론 과정에서 활용되는 KV 캐시 데이터를 압축해 메모리 효율을 높이는 기술이다. KV 캐시는 AI가 대화의 맥락을 유지하기 위해 핵심 정보를 임시 저장하는 영역이다.

삼성전자와 SK하이닉스 주가는 26일 구글의 ‘터보퀀트(TurboQuant)’ 공개 이후 각각 4%대, 5%대 하락했다. 미국 증시에서도 마이크론과 샌디스크 등 주요 메모리 업체 주가가 3~6% 떨어지며 글로벌 시장 전반으로 충격이 확산됐다. AI 서버용 고대역폭메모리(HBM) 수요가 줄어들 수 있다는 우려가 반영된 결과다.

어깨·가슴·팔 치수를 센티미터(㎝) 단위로 표기하는 대신 L·M·S 사이즈로 규격화하듯이, 구글은 데이터를 표준화해 묶는 방식으로 압축시켰다. 그러나 이 방식은 치수표를 따로 보관해야 하는 것처럼, 압축한 데이터를 해석하는 데 필요한 별도 데이터가 또다시 메모리를 차지하는 문제가 있었다.

그래서 구글은 극좌표를 활용한 압축 기술을 적용했다. 기존에 데이터를 X·Y·Z축으로 이뤄진 ‘직교좌표계’ 위에 저장했다면 터보퀀트는 이를 각도와 거리를 이용한 ‘극좌표계’ 위로 올린 것이다.

“‘동쪽으로 3블록, 북쪽으로 4블록 이동’하던 방식을 ‘5블록만큼 37도 이동’으로 바꾸는 것과 비슷한 방식”이라고 구글은 설명했다. 직교좌표계에서는 한 축의 데이터 값이 극단적으로 높으면 메모리 용량이 급증하지만, 극좌표계에서는 거리·각도 데이터가 균일하게 유지돼 메모리를 압축할 수 있다.

터보퀀트의 극좌표 압축 기술을 묘사한 이미지 [출처=구글 리서치 블로그]

다만 업계에서는 이번 기술을 메모리 수요 감소 신호로 해석하는 데에는 무리가 있다는 시각이 우세하다. 오히려 터보퀀트 같은 효율화 기술이 메모리 수요를 더 늘릴 것이라는 전망도 나온다. 메모리 효율을 높이려는 시도 자체는 새로운 흐름이 아니라 이미 빅테크 기업들이 오랜 기간 지속해온 전략임에도 불구하고, 메모리 수요는 계속 늘어왔기 때문이다.

VC업계 한 관계자는 "시장에 느닷없는 충격파를 던지기에 터보퀀트 기술은 이미 수년 전부터 R&D를 진행해 왔던 기술"이라면서 "연산 효율을 지속적으로 높이고자 한다면 메모리 용량의 증가는 불가피한 선택"이라고 의견을 밝혔다.

실제 메타는 AI 모델 ‘라마(LLaMA)’에 양자화 기술을 적용해 메모리 사용량과 연산 효율을 개선해왔고, 마이크로소프트는 ‘파이(Phi)’ 시리즈와 같은 소형 언어모델을 통해 연산량과 메모리 요구량을 줄이는 전략을 추진해왔다.

아마존 역시 자체 AI 칩 기반으로 시스템 효율을 높이고 있으며, 애플은 온디바이스 AI를 통해 서버 중심 구조를 분산시키는 접근을 이어가고 있다. 이처럼 대부분의 빅테크 기업들이 메모리 효율을 개선하는 기술 개발을 해왔지만, 이 흐름이 수요를 줄이기보다는 비용 절감을 통해 AI 활용 범위를 확대하는 방향으로 작용해왔다는 분석이다.

터보퀀트 역시 같은 맥락에서 해석할 수 있다. 메모리 사용량을 줄이는 기술이지만, 동시에 AI 연산 비용을 낮춰 더 많은 기업과 서비스가 AI를 도입할 수 있는 기반을 제공할 가능성도 있다. 결과적으로 단위당 메모리 사용량은 줄어들 수 있지만, 전체 수요는 오히려 확대되는 구조가 형성될 가능성이 크다는 것이 전문가들의 설명이다.

조셉 무어 모건스탠리 애널리스트는 "구글의 기술이 KV 캐시 효율성을 개선시키지만 그것이 메모리 수요 전반에 직접 큰 충격을 주진 않을 것"이라며 "그것은 고대역폭 메모리에 저장되고 그 구성 요소의 용량 자체가 변할 수는 없기 때문"이라고 주장했다.

이종욱 삼성증권 연구원도 "효율적인 AI 모델은 전체 비용을 낮춰 더 많은 AI 계산 수요를 불러온다"며 "최적화 모델들은 반도체 자원을 줄이는 것이 아니라 같은 자원으로 더 높은 성능의 AI 서비스를 구현하는 데 사용되고 있다"고 분석했다.

이어 이 연구원은 "AI 업체들이 비용 경쟁이 아니라 성능 경쟁을 하는 한 비용 최적화는 반도체 수요에 영향을 미치지 않을 것"이라며 "걱정해야 할 순간은 AI로 더 할 수 있는 기능이 별로 없거나 AI 업체들이 경쟁을 멈출 때"라고 덧붙였다.

Tag