삼성전자 6세대 고대역폭메모리(HBM4). (자료=삼성전자)
구글이 발표한 인공지능(AI) 메모리 압축 기술 '터보퀀트' 때문에 메모리 반도체 수요가 줄 것이라는 우려가 제기됐다. 이 때문에 메모리 업체 주가가 약세를 보였다. 반면 증권가에선 단기적인 이슈에 그칠 것이라는 전망을 내놓았다.
◇터보퀀트, AI 병목 핵심 요인 'KV 캐시' 6분의 1로
구글은 지난 25일(현지시간) 터보퀀트 논문을 배포했다. 터보퀀트는 키-값(KV) 캐시 등 메모리 사용량을 획기적으로 줄인 기술이다. KV 캐시를 6분의 1로 압축하면서 추론 속도는 8배 빨라진다.
논문에 따르면 디코더 기반 트랜스포머 모델은 이전에 생성한 토큰(AI가 처리하는 연산의 최소 단위)의 KV 캐시를 저장해 다음 연산에 활용한다. 문맥 길이와 모델 크기에 비례한다. 쉽게 말해 대규모 언어모델(LLM) 등과 같은 AI 모델은 사용자와의 대화(KV 캐시)가 길어지면, 맥락을 파악하기 위해 시간을 더욱 병목현상이 발생한다는 의미다.
구글은 KV 캐시를 압축 후 전달하는 방식으로 병목을 줄였다. 용량이 큰 사진과 문서를 이메일로 보낼 때 ZIP 형태로 전환해 보내는 것과 유사하다. 핵심 과제는 임베딩 벡터를 유지하는 것이다. AI는 사용자가 질의한 내용을 문자가 아닌 숫자로 받아들인다. 압축과 복원을 거치면 의도하지 않은 정보 왜곡이 발생할 수 있다.
기존에도 압축 기술은 존재했지만, 정보 왜곡이 문제였다. 구글은 '무작위 회전' 방식으로 일부 해소했다는 점에서 차이가 있다. AI가 처리하는 데이터를 무작위로 흩뿌려 값을 균일하게 분포하는 식이다. 특정 장소에 정보가 몰리는 현상을 완화해 압축에 유리하다. 박스에 짐을 넣을 때, 차곡차곡 정리하면 공간을 더 효율적으로 사용할 수 있는 것과 유사하다.
AI 병목 완화는 메모리 반도체의 수요 감소로 이어질 수 있다. 이 논리에 메모리 업체의 주가는 큰 폭으로 하락했다. 삼성전자의 주가는 지난 26일 기준 4.71% 감소했다. 매출에서 HBM 비중이 삼성전자 대비 큰 SK하이닉스는 6.23%가 떨어졌다. 마이크론은 주가가 3.39% 줄었다. 공포는 다음날까지 이어졌다. 삼성전자와 SK하이닉스 주가는 27일 오후 기준 전 거래일 대비 하락세다.
◇"예단은 일러...메모리 천하시대 이어질 것"
국내 증권가는 단기적인 주가 하락으로 보고 있다. 김동원 KB증권 리서치본부장은 27일 보고서에서 "딥시크 공개 이후 엔비디아 주가가 단기 급락(-17%)했으나 한 달 내 빠르게 회복해 오히려 이전 수준을 상회했다"며 "향후 5년간 예상되는 AI 데이터센터 투자 확대 속도를 고려할 때 터보퀀트만으로 폭증하는 AI 수요를 감당하기엔 한계가 있다"고 분석했다. 2025년 초 저비용·고효율 특성 AI인 딥시크가 반도체 주가를 급락시킨 사건과 유사하다는 논리다.
터보퀀트의 목적은 메모리 수요 감소가 아닌, AI 추론 수요 확대에 따른 대안이라고 분석하기도 했다. AI의 본질적인 문제를 감소시키고, 오히려 AI 사용자를 늘릴 것이라는 전망이다. 김 본부장은 "터보퀀트 등은 더 많은 사용자를 AI 환경으로 유입시켜 결국 AI 사용량을 증가시키고, AI 플랫폼 지배력 확대로 이어질 것"이라고 예상했다. 이어 "1990년대 인터넷 도입 초기 디지털 문서 확산으로 종이 사용량 감소가 예상됐지만, 종이 사용량이 급증했다"고 덧붙였다.
터보퀀트는 아직 이론에 불과해 실제 환경에서 어떻게 작용할 지 알 수 없다는 주장도 있다. 김록호 하나증권 팀장은 같은날 보고서에서 "터보퀀트의 검증과 확장 속도 등은 불명확하다"고 지적했다.
오히려 고성능 메모리의 수요가 증가할 것이라는 분석도 내놓았다. 데이터를 압축과 해제하는 과정을 빠르게 처리하기 위해 대역폭이 높은 메모리가 요구된다는 분석이다. 김 팀장은 다중 랭크 결합형 서버용 메모리 모듈(MRDIMM)과 소캠2(SOCAMM2) 등의 수요가 보편화될 것이라고 보았다.
낸드플래시는 읽기 속도가 중요해진다. 기존에는 추론 워크로드에서 스토리지가 보조 역할에 머물렀다. 압축 기술이 고도화되면서 스토리지를 확장된 메모리처럼 활용하는 구조로 변화한다. 김 팀장은 빠르게 데이터 접근이 가능한 NVMe 5~6세대 솔리드 스테이트 드라이브(SSD) 수요가 늘어날 것이라고 분석했다. SSD를 수직으로 쌓은 고대역폭플래시메모리(HBF) 상용화를 앞당길 수도 있다고 강조했다.
댓글
0