미 캘리포니아 마운틴뷰 알파벳 본사. [출처= 구글]
구글이 공개한 인공지능(AI) 압축 기술 '터보퀀트(TurboQuant)'의 등장에 반도체 업계가 촉각을 곤두세우고 있다. 메모리 수요 둔화 우려가 제기되는 가운데 중장기적으로는 AI 확산을 가속할 것이라는 전망도 나온다.
27일 업계에 따르면 구글리서치가 지난 25일(현지시간) AI 추론 과정의 효율을 극대화하는 알고리즘 터보퀀트를 공개했다. 터보퀀트는 AI 추론 과정에서 발생하는 키-값 캐시(KV 캐시)를 효율적으로 압축시켜 정확도 저하 없이 AI의 메모리 사용량을 6분의 1로 줄인 기술이다.
이를 통해 메모리 사용량을 줄이면서도 성능 저하 없이 연산 속도를 크게 높일 수 있다.
외신들도 기술 파급력에 주목하고 있다. IT전문매체 테크크런치는 "터보퀀트는 AI 모델이 기존보다 효율성을 높이고 메모리 수요를 줄이는 구조를 만들어 낼 수 있다"고 평가했다.
메모리 수요 감소에 따라 AI 서버에 탑재되는 고대역폭메모리(HBM) 등의 수요가 꺾일 것이라는 예상이 나오면서 시장 반응은 즉각적으로 나타났다. 기술 발표 이후 삼성전자와 SK하이닉스, 마이크론 등 주요 메모리 업체 주가는 중동 지정학 리스크와 맞물리며 2거래일 연속 하락세를 보였다.
다만 시장의 해석은 엇갈린다. 단기적으로는 서버당 메모리 탑재 부담이 줄어들 수 있지만 연산 효율 개선이 오히려 메모리 사용량 증가로 이어질 수 있다는 분석이다.
CNBC는 레이 왕 세미애널리시스 애널리스트를 인용해 "성능 개선이 이뤄질수록 메모리 사용량은 오히려 증가할 가능성이 높다"며 "메모리 반도체 병목 해소로 AI 하드웨어 성능이 향상되면 더 강력한 모델 개발로 이어져 이를 뒷받침할 더 많은 메모리가 필요해질 것"이라고 말했다.
글로벌 투자은행들도 유사한 시각을 내놓고 있다. 숀 김 모건스탠리 분석가는 "모델이 성능 저하 없이 메모리 요구량을 낮춰 실행할 수 있다면 비용이 크게 감소해 AI 도입의 수익성이 높아질 것"이라며 "비용이 낮아지면 제품 채택 수요도 증가해 장기적으로 메모리 제조사에도 이익이 될 것"이라고 내다봤다.
김정호 KAIST 교수는 "HBM처럼 초고속 접근이 필요한 영역에는 적용이 쉽지 않을 것"이라며 "당장 메모리 수요 구조 자체가 뒤집힐 것으로 보기는 어렵다"고 강조했다. 다만 "속도보다 용량과 비용이 중요한 낸드플래시 등 저장장치 영역에서는 이런 압축 기술이 의미를 가질 수 있다"고 덧붙였다.
댓글
0