한인수 KAIST 교수
한인수 KAIST 전기및전자공학부 교수. KAIST 제공
미국 구글이 인공지능(AI) 추론 작업에서 메모리 사용량을 6분의 1 이하로 줄이는 알고리즘 '터보퀀트'를 전격 공개하면서 메모리반도체 시장이 출렁이고 있다. 터보퀀트는 외부 서버 연결 없이 장치 내부에서 복잡한 연산을 수행할 수 있는 온디바이스 AI 장벽을 낮춰 보안이 중요한 개인화 AI와 국방 AI 발전에 기여할 것으로 전망된다.
한인수 KAIST 전기및전자공학부 교수는 30일 열린 온라인 연구성과 설명회에서 "터보퀀트가 메모리 확보나 네트워크 연결이 제한된 상황에서 쓰이는 온디바이스 AI 진입 장벽을 낮추고 군사 관련 기술에도 큰 영향을 미칠 것이라고 생각한다"고 분석했다.
한 교수는 터보퀀트의 핵심 기반기술인 '폴라퀀트'와 '양자화 존슨-린덴스트라우스 변환(QLJ)' 연구에 참여한 국내 연구자다.
터보퀀트는 고용량 메모리가 필요한 AI의 맥락 정보를 작은 크기로 압축하고 손실을 최소화하면서 오류 없이 복원하도록 설계됐다. 대형 언어모델(LLM) 시장에 빠른 시일 내에 적용될 것으로 기대되며 AI 검색이나 추천 기능 등에도 범용적으로 활용할 수 있다는 설명이다.
소프트웨어 개선만으로 큰 파급을 일으켰다는 점이 터보퀀트의 특징이다. 한 교수는 "터보퀀트는 이론적 배경과 알고리즘 성능 벤치마크까지 다양한 검증이 이뤄졌다"고 평가하며 "좋은 알고리즘 하나가 메모리반도체 시장까지 영향을 미치는 것을 보고 놀랐다"고 밝혔다.
그는 "처음 연구논문을 제출할 때는 하드웨어 시장에 큰 영향을 줄 것이라고 예측하지 못했다"며 "이번 사건이 소프트웨어 중요성이 각인되는 계기라고 생각한다"고 말했다. 하드웨어도 중요하지만 소프트웨어가 함께 최적화돼야 AI 효율에 효과적으로 기여할 수 있다는 메시지라는 것이다.
한 교수는 "앞으로도 구글 리서치와 후속 연구를 이어갈 계획"이라며 "AI 추론 작업시 연산 효율화 방향에 집중할 것"이라고 말했다.
댓글
0