30일 온라인 설명회서 주장...핵심 알고리즘 ‘폴라퀀트’ 개발 주도
“터보퀀트, 범용 기술로 쓰일 것”...메모리 시장, HW-SW 결합 대전환
한인수 KAIST 전기및전자공학부 교수가 30일 온라인 브리핑에서 터보퀀트 기술에 대해 설명하고 있다. KAIST 제공.
“터보퀀트 기술은 어떤 인공지능(AI) 모델에도 적용이 가능할 것이라는 점에서 메모리 반도체 시장에 미치는 영향이 매우 클 것으로 예측됩니다.”
구글이 지난 25일 공개한 메모리 압축 기술 ‘터보퀀트’ 연구에서 알고리즘 개발을 주도한 한인수(사진) KAIST 전기및전자공학부 교수는 30일 열린 온라인 설명회에서 향후 전망에 대해 이같이 말했다.
터보퀀트는 AI 추론 과정에서 메모리 사용량을 6분의 1 수준으로 줄일 수 있는 알고리즘으로, 강하게 압축하고 남는 오차를 정교하게 보정하는 2단계 기법을 통해 효율과 정확도를 높인 게 특징이다.
AI 모델은 입력 데이터를 벡터 형태로 바꾼 뒤 벡터 간 유사도를 계산해 자공한다. 이 과정에서 고정밀 데이터를 사용하기 때문에 막대한 메모리 자원이 필요하다는 한계를 지닌다.
터보퀀트는 이런 고정밀 데이터를 더 적은 비트로 압축해 표현하는 양자화 기술을 활용해 핵심 정보는 유지하면서도 저장 용량과 연산 부담을 크게 줄일 수 있다.
특히 AI 추론 과정에서 가장 큰 장애물였던 메모리 병목 문제를 효과적으로 제어할 수 있다.
한 교수는 터보퀀트의 핵심 알고리즘으로 사용된 ‘폴라퀀트’(QLJ) 개발에 참여했다. KAIST에서 학·석·박사를 취득한 뒤 2024년부터 교수로 재직 중인 그는 구글리서치 방문 연구원을 겸직하고 있다.
한 교수는 “연구 당시에는 이 기술이 하드웨어(반도체) 시장에 큰 파장을 일으킬 것이라고 예상하지 못했다”면서 “소프트웨어가 하드웨어 시자에 더 큰 영향을 미치면서 소프트웨어의 중요성을 각인시켜 주지 않았나 한다”고 평가했다.
그러면서 “터보퀀트가 별도 학습 없이 기존 AI 모델에 적용할 수 있고, KV캐시(임시 메모리)뿐 아니라 검색 기반 추천 시스템이나 검색증강생성(RAG) 등 다양한 벡터 기반 시스템에도 활용할 수 있는 범용 기술”이라고 덧붙였다.
터보퀀트 기술 개발로 향후 메모리 기술 혁신이 단순한 고용량 중심의 하드웨어(반도체) 기술에서 소프트웨어 기술과 함께 효율을 높이는 방향으로 가속화될 것이라는 전망이 나온다.
이 때문에 삼성전자, SK하이닉스, 마이크론 등 글로벌 메모리 생산 기업의 주가가 터보퀀트 기술 개발 소식이 나오면서 일제히 곤두박질쳤다.
그는 터보퀀트가 앞으로 온디바이스 AI 기기부터 대규모 데이터센터에 이르기까지 AI 적용 범위를 비약적으로 넓히는 기폭제가 될 것이라고 봤다.
한 교수는 “터보퀀트가 온디바이스 AI의 진입 장벽을 낮출 수 있을 것”이라며 “앞으로 대규모 AI 모델을 보다 효율적으로 운영하는 핵심 기반 기술로도 활용될 것”이라고 말했다.
이어 “(구글) 회사 내부에서 터보퀀트를 어떻게 이용하는지 구체적으로 말하기 어렵지만, 기술을 정확히 이해하면 구현하고 AI에 적용하는 것은 그리 어렵지 않을 것”이라고 빠른 상용화를 예상했다.
한편 한 교수가 개발을 주도한 폴라퀀트 연구는 다음달 열리는 AI와 통계를 다루는 국제 학술 대회 ‘AISTATS 2026’에서 발표될 예정이다.
댓글
0