[금주의 키워드] 터보퀀트

기술 구현이 아니라 연구 발표 수준인데도, 시장은 민감했다. 이름하여 구글의 ‘터보퀀트(TurboQuant).’

챗GPT에게 한문 해석과 시와 그림을 부탁했다. 며칠 뒤, 이 과정을 끄집어내 달라고 했더니 챗GPT는 임시저장소(KV 캐시)에서 가져오느라 버벅(병목현상)거렸다. 터보퀀트는 인공지능(AI)의 임시 기억을 최대한 압축하면서도 내용을 대부분 유지하는 알고리즘이다. 속도는 최대 8배 빨라진다. 챗GPT가 더 빠릿빠릿해지는 것. 그러면서도 메모리(HBM) 소모량은 6분의 1로 줄어든단다.

이미 지난해 4월 논문으로 드러난 기술이지만, 구글이 지난 24일 블로그를 통해 발표하자 주식시장이 민감하게 반응했다. 26일 미국에서 샌디스크는 11.02%, 마이크론테크놀로지는 6.97% 폭락했고, 엔비디아는 4.2% 하락했다. 삼성전자는 27일 장중 4.4%, SK하이닉스는 5.5%까지 빠지기도 했다. 소프트웨어의 혁신이 하드웨어(메모리반도체) 수요를 잠식할 수 있다는 우려 때문이다.

터보퀀트는 연구적 돌파구 단계만으로도 실제 시장을 때린 예다. AI 산업의 전선이 ‘모델 경쟁’에서 ‘효율성 경쟁’으로 이동하고 있음을 상징하기도 한다.