구글·딥마인드·뉴욕대 등과 공동 개발
AI 메모리 최대 6배 절감에도 성능 유지
◆…사진=클립아트코리아
구글이 인공지능(AI) 메모리 병목을 해소할 차세대 양자화 알고리즘 '터보퀀트'를 공개한 가운데 한인수 한국과학기술원(KAIST) 교수가 연구에 참여해 반도체 업계의 이목이 쏠리고 있다.
카이스트는 27일 한 교수가 구글 리서치와 딥마인드, 뉴욕대 연구진과 함께 AI 모델의 메모리 과부하 문제를 해결할 '터보퀀트' 개발에 참여했다고 밝혔다.
터보퀀트는 AI가 사용하는 메모리를 최대 6분의 1 수준까지 줄이면서도 성능은 거의 유지할 수 있는 기술이다.
AI는 질문과 답변을 이해하기 위해 이전 정보를 계속 저장하는 방식으로 작동하는데 이 과정에서 막대한 메모리가 필요해 속도저하와 비용 증가의 원인으로 지적돼 왔다. 터보퀀트는 데이터를 더 단순한 형태로 압축해 저장하는 '양자화' 기술을 적용해 이러한 문제를 개선했다.
양자화는 소수점이 긴 숫자를 정수에 가깝게 바꿔 저장하면서도 중요한 정보는 유지하는 원리로, 이를 통해 저장 공간은 줄이고 계산 속도는 높일 수 있다.
터보퀀트는 두 단계로 작동한다. 먼저 데이터를 무작위로 섞어 값의 편차를 줄인 뒤 각각을 압축해 저장 효율을 높인다.
이어 이 과정에서 생긴 오차까지 다시 압축해 데이터를 '-1'과 '1' 두 가지 값으로만 표현하는 QJL(Quantized Johnson-Lindenstrauss) 기법을 적용해 연산 부담을 최소화한다.
이번 기술 공개는 반도체 시장에 위기와 기회를 동시에 던져주고 있다. 단기적으로는 동일 모델 구동에 필요한 메모리 용량이 줄어들어 수요 성장세가 일시적으로 둔화될 수 있다는 우려가 나온다. 실제로 발표 직후 국내 주요 반도체 기업의 주가가 영향을 받기도 했다.
그러나 장기적으로는 AI 활용 비용이 낮아지면서 스마트폰, 가전제품, 데이터센터 등 전 분야에서 AI 도입이 폭발적으로 확대될 것으로 전문가들은 내다보고 있다. 결국 'AI 대중화'가 기폭제가 돼 더 고도화된 메모리 수요를 창출하는 '수요의 질적 전환'이 나타날 것이라는 분석이다.
한 교수는 "AI가 고용량 중심에서 고효율 중심으로 전환되면서 더 저렴하고 빠르게 확산될 것"이라며 "반도체 수요 역시 단순히 양이 늘어나는 것이 아니라 더 정교하고 고도화되는 방향으로 바뀔 것"이라고 설명했다.
한 교수는 2010년 카이스트 학사 과정에 입학해 2021년 박사학위를 취득했으며, 2024년 9월부터 카이스트 조교수로 재직 중이다. 현재 구글 리서치 방문 연구원으로도 활동하고 있다.
한편 이번 연구의 기반이 된 폴라퀀트 논문은 오는 5월에 열리는 AI·통계 분야 국제학회 AISTATS(Artificial Intelligence and Statistics)에서 발표될 예정이다.
댓글
0