터보퀀트는 정확도 저하 없이 모델의 크기를 극단적으로 축소하는 압축 기법을 이용해 AI의 메모리 사용량을 6분의 1로 줄이는 기술이다. 사진/pixabay
구글이 AI(인공지능)의 메모리 사용을 최대 6배까지 줄일 수 있는 신기술 '터보퀀트'를 발표하면서 국내외 반도체주들이 모두 삭풍을 맞았다. 터보퀀트발(發) 반도체 쇼크가 미국과 이란 간 전쟁으로 얼어붙은 증시에 추가 충격을 안긴 가운데 전문가들 사이에서는 터보퀀트 우려가 과하다는 목소리와 오히려 반도체 기업들에는 도움이 될 수 있다는 의견이 나온다.
27일 금융투자업계에 따르면 간밤 필라델피아반도체지수는 4.79% 하락했다. 종목별로는 메모리 제조업체들의 하락이 두드러졌다. 어플라이드머티어리얼즈(-8.34%), AMD(-7.49%), 마이크론 테크놀로지(-6.97%)가 일제히 급락했으며 전 세계 1위 반도체 위탁생산(파운드리) 기업인 대만 반도체 기업 TSMC(-6.22%), 네덜란드 반도체 장비 생산 기업 ASML(-4.62%) 등 미국 증시에 상장된 외국 반도체 관련 기업들의 주가도 내려앉았다. 필리델피아반도체지수에는 포함되지 않은 샌디스크(-11.02%), 웨스턴디지털(-7.70%) 등도 충격을 피하지 못했다.
미국 반도체주들의 하락 배경에는 AI 모델의 메모리 사용량을 줄여주는 구글의 신기술 '터보퀀트'가 자리하고 있다. 터보퀀트는 정확도 저하 없이 모델의 크기를 극단적으로 축소하는 압축 기법을 이용해 AI의 메모리 사용량을 6분의 1로 줄이는 기술이다.
챗봇을 비롯한 AI 모델은 추론부터 답변까지의 과정에서 사용자와 나눈 이전 대화, 검색 결과 등 주요 맥락 정보가 필요하다. 대화가 많을수록 메모리에 저장되는 맥락 데이터도 증가하게 되고 메모리 사용량도 비례해 늘어난다.
구글의 터보퀀트는 맥락 데이터의 크기를 줄이는 '극좌표양자화'(폴라퀀트)와 오차를 줄이는 'QJL'(양자화 존슨-린덴스트라우스 변환) 기술을 바탕으로 메모리 사용량을 크게 줄였다.
송명섭 iM증권 연구원은 "터보퀀트는 최근 AI 업계에서 뚜렷하게 나타나고 있는 HBM(고대역폭메모리)에 대한 의존도를 줄이고 SRAM, 낸드를 더 많이 사용하려는 흐름을 가속화시키는 기술인 것으로 판단된다"면서 "이미 구글은 터보퀀트를 제미나이 3.0에 일부 적용 중인 것으로 밝혔으며 따라서 향후 현실화 가능성도 높은 것으로 보인다"고 짚었다.
이어 "터보퀀트를 이용하면 HBM에 저장되는 KV 캐시(Cache)의 점유율이 6분의 1 이하로 감소하므로 같은 HBM 용량으로 6배 더 많은 사용자를 동시 처리하거나 6배 더 긴 문장을 입력할 수 있게 된다"며 "이는 HBM의 용량이 축소되거나 증가율이 크게 둔화할 수 있음을 의미한다"고 덧붙였다.
터보퀀트가 메모리 사용량을 극단적으로 줄인다는 점은 시장에 놀라움과 충격을 안겼고 데이터센터 등을 운영하는 거대 기술기업들의 반도체 수요가 급감할 수 있다는 우려로 이어졌다. 실제로 전날 터보퀀트 충격에 국내 증시에서도 삼성전자(-4.71%), SK하이닉스(-6.23%) 등 대형 반도체주들이 급락했으며 한미반도체(-7.33%), 테크윙(-4.95%), 이수페타시스(-4.11%) 등 반도체 소·부·장(소재·부품·장비) 업종들도 유탄을 맞았다.
미국과 이란 간 전쟁으로 지정학적 리스크가 불거지면서 위험회피심리가 고조된 가운데 그간 국내 증시를 이끌던 반도체주가 무너지면서 코스피도 3% 넘게 하락했다. 6거래일 연속 코스피에서 순매도를 이어가는 외국인들은 전날에만 삼성전자와 SK하이닉스 주식을 각각 2조400억원, 7900억원어치 팔아치웠다.
터보퀀트가 국내외 반도체주들의 투매를 자극하는 재료가 돼 시장을 흔들었으나 전문가들은 당장 메모리 시장에 미칠 영향을 크지 않을 가능성이 크다고 입을 모았다. 터보퀀트가 AI 시장을 키우는 트리거로 작용하면 그만큼 메모리 수요가 늘어나기 때문에 반도체 기업들에는 호재가 될 수 있다는 시각도 있다.
김록호 하나증권 연구원은 "만약 해당 기술이 중장기적으로 보편화돼 비트당 수요가 효율화되면 메모리 비용에 대한 진입장벽이 낮아지기 때문에 AI 서비스의 전체 사용량 및 D램과 스토리지의 절대적인 수요량을 감소시킬 가능성은 제한적이라 판단한다"고 분석했다.
숀 김 모건스탠리 분석가는 "모델이 성능 저하 없이 메모리 요구량을 낮춰 실행할 수 있다면 비용이 크게 감소해 AI 도입의 수익성이 높아질 것"이라며 "비용이 낮아지면 제품 채택 수요도 증가해 장기적으로 메모리 제조사에도 이익이 될 것"이라고 내다봤다.
김동원 KB증권 리서치본부장은 "터보퀀트를 비롯해 그록(Grok), SRAM 등 다양한 저비용 AI 기술은 AI 사용 장벽을 낮추고 전체 수요를 폭발적으로 확대시키는 방향으로 작용한다"며 "이는 곧 연산량 증가와 메모리 탑재량 확대로 직결되는데 결국 AI 생태계 확장 경쟁의 최대 수혜는 메모리 반도체 업체가 될 것"이라고 짚었다.
댓글
0