한인수 교수 (사진제공=KAIST)
[뉴스웍스=문병도 기자] 인공지능(AI) 모델의 거대화에 따른 고질적 난제였던 '메모리 과부하' 문제를 해결할 획기적인 알고리즘이 개발됐다.
한인수 한국과학기술원(KAIST) 전기및전자공학부 교수가 구글 리서치, 딥마인드, 뉴욕대와 공동으로 차세대 양자화 알고리즘 '터보퀀트'를 개발했다.
AI 모델은 데이터를 벡터 형태로 변환해 유사도를 계산하는데, 이 과정에서 고정밀 데이터를 사용하기 때문에 막대한 메모리가 소모된다. 터보퀀트는 이러한 데이터를 더 적은 비트로 압축하는 '양자화' 기술을 극대화했다. 소수점 데이터를 정수로 근사치화해 핵심 정보는 보존하면서 저장 용량과 연산 부담을 대폭 낮춘 것이 핵심이다.
터보퀀트의 독창성은 2단계 양자화 구조에 있다. 1단계에서는 데이터를 무작위로 회전시켜 압축 효율을 방해하는 극단값을 제거한다. 이는 한인수 교수가 참여했던 기존 연구 '폴라퀀트'의 핵심 기법이다.
이어지는 2단계에서는 1단계에서 발생한 미세한 오차를 다시 한번 압축한다. 이때 적용된 'QJL' 기법은 데이터를 단 1비트로 표현하면서도 정보 손실을 최소화한다. 이러한 이중 구조를 통해 정확도 저하 없이 메모리 사용량을 6분의 1 수준으로 줄이는 데 성공했다.
전문가들은 이 기술이 반도체 메모리 수요의 '양적 팽창'과 '질적 고도화'를 동시에 불러올 것으로 보고 있다.
단기적으로는 개별 기기의 메모리 탑재량이 줄어들 수 있으나, 낮아진 문턱 덕분에 스마트폰, 가전 등 온디바이스 AI 기기의 보급이 폭발적으로 늘어나면서 전체적인 메모리 수요는 더 커질 것이라는 분석이다. 연구의 모태가 된 '폴라퀀트' 논문은 오는 5월 세계 최고 권위의 AI 학회인 'AISTATS 2026'에서 발표될 예정이다.
한인수 KAIST 교수는 "AI 모델이 커질수록 메모리 병목 현상이 성장의 발목을 잡는 한계가 있었다"며 "연구는 정확도를 유지하며 병목을 해소할 새로운 방향을 제시했으며, 향후 대규모 AI 모델의 효율적 운영을 위한 기반 기술이 될 것"이라고 말했다.
댓글
0