이미지=AI
구글의 인공지능(AI) 메모리 압축 기술인 '터보퀀트(TurboQuant)'가 공개되자 업계는 메모리 반도체 호황이 끝난 것 아니냐는 우려섞인 전망이 나왔다.
하지만 삼성전자의 고대역폭메모리(HBM) 사업에 미칠 영향은 시장 우려와 달리 장기적으로는 긍정적인 모멘텀을 제공할 수 있다는 분석이 나왔다.
메모리 6분의1로 압축하는 '터보퀀트' 기술
구글 리서치는 최근 성능 저하 없이 KV 캐시(Key-Value Cache)를 최대 6배까지 압축할 수 있는 터보퀀트 기술을 공개했다. KV 캐시는 거대언어모델(LLM)이 문맥을 기억하고 정보를 처리하는 데 필수적인 메모리 공간으로, 그동안 LLM의 규모가 커짐에 따라 메모리 용량 부족 문제를 야기하는 주요 병목 구간 중 하나였다.
기술 공개 초기, 시장은 메모리 사용량이 감소함에 따라 AI 서버당 탑재되는 HBM 등 메모리 반도체의 총수요가 감소할 것이라는 우려를 나타냈다. 이러한 우려의 반영으로 일부 언론에서는 삼성전자의 주가 흐름에 부정적인 영향을 주었다고 분석하기도 했다. 그러나 일각에서는 6배라는 압축 수치가 실제 운용 환경에서는 약 2.6배 수준으로 제한될 수 있다는 관측도 제시됐다.
삼성전자 HBM 사업에 장기적 수혜 가능성
시장 전문가들에 따르면, 구글의 터보퀀트 기술은 단기적인 HBM 수요 감소 우려보다는 오히려 장기적인 AI 시장 확대와 이에 따른 HBM 수요 증가를 이끌어낼 가능성이 있다는 분석이다.
메모리 병목 현상 해결로 AI 모델 추론 비용이 낮아지면, 기업들은 더 거대하고 성능이 뛰어난 AI 모델을 더 많은 서비스에 도입할 수 있게 된다. 이는 전체적인 AI 인프라 증설 수요를 촉진하고, 결과적으로 개별 서버당 메모리 사용량 감소분을 상회하는 HBM 총수요를 발생시킬 수 있다.
한편 터보퀀트가 압축된 데이터를 빠르게 처리(압축 해제 및 연산)하기 위해서는 이를 지원하는 프로세서와 더불어 초고속 대역폭을 제공하는 HBM과 같은 고성능 메모리의 역할이 여전히 중요하기 때문이다.
구글의 터보퀀트 공개는 메모리 업계에 단기적인 심리적 위축을 불러왔으나, 본질적으로는 AI 생태계의 효율성을 높여 시장의 파이를 키우는 긍정적인 기술 변화로 판단된다. 삼성전자는 HBM 분야의 기술 선도력을 유지하며, AI 시장 확장에 따른 수혜를 극대화하는 전략이 필요하다.
중기이코노미
댓글
0