한인수 전기및전자공학부 교수 브리핑
"사전 학습된 LLM에 바로 적용 가능해
터보퀀트로 소프트웨어 중요성 더 각인"
한인수 카이스트 전기및전자공학부 교수가 30일 온라인 브리핑에서 터보퀀트 기술에 대해 설명하고 있다. 카이스트 제공
구글의 인공지능(AI) 모델 메모리 효율화 기술인 '터보퀀트(TurboQuant)'의 핵심 기술 연구에 참여한 한인수 한국과학기술원(KAIST·카이스트) 전기및전자공학부 교수는 "AI 효율화를 위해 소프트웨어와 하드웨어 최적화가 함께 가야 한다"고 강조했다.
한 교수는 30일 오후 온라인으로 기자 브리핑을 열고 "메모리 반도체 같은 하드웨어 없이는 아무리 소프트웨어가 좋아도 능력을 충분히 발휘할 수 없고, 반대로 하드웨어가 아무리 좋아도 소프트웨어가 개선돼야 최종적인 AI 효율화가 가능할 것"이라고 말했다.
터보퀀트는 AI 작동 과정에서 발생하는 데이터 병목 문제를 소프트웨어 최적화 알고리즘으로 해결하는 기술이다. 구글이 메모리 사용량을 6분의 1로 줄일 거라며 이 기술을 발표한 직후 메모리 수요가 줄 거란 예상에 반도체 기업 주가가 일제히 급락했다. 이에 대해 개발자인 한 교수가 하드웨어와 소프트웨어의 상호 보완성을 강조한 것으로 풀이된다.
한 교수는 터보퀀트가 머지않아 상용화할 수 있을 것이라고 전망했다. 그는 "터보퀀트의 효율화 기술은 사전 학습된 언어모델(LLM)에 바로 적용할수 있다"며 "시장에 빠른 시일 내에 적용돼서 실제 성능이 검증될 것"이라고 했다.
터보퀀트 발표 후 세계 시장의 반응에 대해 한 교수는 "예상하지 못했다"고 말했다. 그는 "연산 효율화 연구에 집중해왔는데, 이번에 소프트웨어의 중요성이 더 각인된 것 같다"고 소회를 밝혔다. 현재 구글 리서치 연구원을 겸직 중인 한 교수는 구글과 AI 추론 연산 효율화를 위한 후속 연구를 할 계획이다.
댓글
0