한인수 카이스트 교수도 연구 참여
분석가들 "장기적으로 메모리 시장에 긍정적"
구글
컨슈머타임스=김동역 기자 | 구글이 인공지능(AI) 모델의 메모리 사용량을 줄이는 신기술을 공개하면서 글로벌 메모리 반도체 시장이 긴장하고 있다.
26일(현지시간) IT업계에 따르면 구글은 최근 '터보퀀트(TurboQuant)'라는 AI 압축 기술을 선보였다.
터보퀀트는 정확도 저하 없이 모델의 크기를 극단적으로 축소하는 압축 기법을 이용해 AI의 메모리 사용량을 6분의 1로 줄였다.
챗봇을 비롯한 AI 모델은 추론하고 답변을 생성하는 데 사용자와의 이전 대화와 검색 결과 등 주요 맥락 정보가 필요하다.
대화가 오래 계속되면 메모리에 저장되는 맥락 데이터도 늘어나게 되고, 메모리 사용량도 그만큼 늘어나게 마련이다.
구글은 터보퀀트에서 이와 같은 맥락 데이터의 크기를 줄이는 '극좌표양자화'(폴라퀀트)와, 오차를 줄이는 'QJL'(양자화 존슨-린덴스트라우스 변환) 기술을 바탕으로 이 같은 성과를 거뒀다.
폴라퀀트 기술은 AI가 다루는 데이터의 구조를 직교좌표계에서 극좌표계로 바꾸는 방식으로 크기를 줄인다.
터보퀀트 연구에는 한국과학기술원(KAIST)의 한인수 전기·전자공학부 교수도 참여했다고 구글은 밝혔다.
이 기술이 메모리 사용량을 극단적으로 줄인다는 점 때문에 데이터센터 등을 운영하는 거대 기술기업들의 메모리 칩 수요가 줄어들 것이라는 우려가 나오며 삼성전자와 SK하이닉스, 마이크론 등 메모리 기업의 주가가 하락했다.
그러나 장기적으로는 오히려 메모리 시장에 긍정적인 영향을 미칠 것이라는 게 시장 분석가들의 설명이라고 블룸버그 통신은 전했다.
숀 김 모건스탠리 분석가는 "모델이 성능 저하 없이 메모리 요구량을 낮춰 실행할 수 있다면 비용이 크게 감소해 AI 도입의 수익성이 높아질 것"이라며 "비용이 낮아지면 제품 채택 수요도 증가해 장기적으로 메모리 제조사에도 이익이 될 것"이라고 내다봤다.
댓글
0