advertisement
AI 정확도 유지하면서도 메모리 사용량 6분의1 수준 절감
실용화까지 긴 시간 필요하고, 여러 측면 고려시 수요 커질 것
오히려 AI 도입 문턱 낮춰 메모리 수요 증가 분석…'제번스 역설'
[아시아타임즈=박요돈 기자] 구글이 대규모언어모델(LLM)을 사용할 때 메모리 사용량을 크게 줄일 수 있는 이론을 제시했다. 메모리 중심의 한국 반도체 산업이 충격을 받을 것이라는 전망이 나온다. 다만 위협은 제한적이며 반도체 슈퍼사이클은 계속될 것이라는 관측도 제기된다.
'K-반도체' 관련 이미지. (사진=생성형AI)
29일 업계에 따르면 구글 리서치는 25일(현지시간) 공식 블로그를 통해 새로운 AI 압축 알고리즘 '터보퀀트(TurboQuant)' 관련 논문을 공개했다.
터보퀀트는 'KV 캐시' 데이터를 3비트(bit) 크기로 초고도 압축하는 기술이다. KV 캐시는 AI가 긴 텍스트를 읽고 문맥을 기억하기 위해 임시 저장하는 데이터 공간이다. 처리하는 문장이 길어질수록 메모리 용량을 기하급수적으로 차지하는 특성을 지닌다. 이를 적용하면 AI의 정확도 손실 없이 메모리 용량 사용을 기존 대비 6분의 1 수준으로 절감할 수 있다는 게 구글의 설명이다.
글로벌 AI 업계가 성능 향상을 위해 고대역폭 메모리(HBM) 등 하드웨어 성능을 높이는 방식을 유지해 온 것에 대한 대안이 될 수 있다.
이 때문에 메모리 중심의 한국 반도체 산업계에 위기감이 형성되는 양상이다. AI 메모리 반도체의 구조적 수요 증가라는 시장의 믿음이 흔들릴 수 있기 때문이다.
하지만 업계는 메모리 반도체 산업에 가해질 충격 여파가 제한적일 것으로 관측한다. 터보퀀트가 아직 이론적 수준에 머물러 있어 실제 상용화하기 까지는 시간이 더 필요하다는 진단이다. 모델 크기, 일괄 배치 처리, 학습용 메모리, 네트워킹, 서버 증설 속도 등을 종합적으로 고려할 때 전체적인 메모리 수요는 지속적으로 커질 것으로 전망된다.
advertisement
advertisement
소프트웨어를 통한 하드웨어 병목현상(수요-공급 불일치) 해결 시도는 지속적으로 이뤄져 왔지만, 메모리 수요는 견고했다는 점도 근거로 제기된다.
앞서 중국 딥시크는 미국의 대중국 첨단 반도체 수출 통제로 엔비디아 최신 AI 칩을 정상 수급할 수 없는 환경에서 소프트웨어 최적화로 한계를 돌파했다. 적은 비용으로 오픈AI 챗GPT에 버금가는 성능의 AI 모델을 선보인 바 있다.
오히려 이러한 시도가 메모리 시장 성장의 모멘텀이 될 수 있다는 분석도 나온다. 딥시크의 등장으로 고성능 AI를 만들기 위해 반드시 최첨단 그래픽처리장치(GPU)와 고대역폭 메모리를 무한정 쏟아부을 필요는 없다는 인식이 확산됐다. 하지만, 저비용 고효율 AI의 등장이 개별 기업의 AI 도입 문턱을 낮춰 전 세계 AI 서비스 시장 파이를 키우는 기폭제로 작용했다는 분석도 나온다.
이는 19세기 경제학자 윌리엄 스탠리 제번스가 1865년 저서 '석탄 문제'에서 제기한 '제번스의 역설'과 궤를 같이한다. 제번스의 역설은 제임스 와트의 개량형 증기기관 등장으로 석탄 연소 효율이 높아졌음에도 증기기관이 산업 전반에 보급되며 영국 전체 석탄 소비량이 급증한 역사적 사실에서 착안했다. 기술 발전으로 자원 이용 효율성이 높아져 단위당 소비량이 줄어들더라도 가격 하락과 활용도 증가로 전체 소비량은 폭발적으로 늘어나는 현상을 의미한다.
업계 관계자는 "단기적으로 메모리 수요가 감소할 것이라고 볼 수 있다"면서도 "다만 소프트웨어 최적화로 AI 서비스 구동 비용이 낮아지면 산업 전반으로 AI 생태계가 팽창해 메모리 수요가 더 커질 수도 있다"고 설명했다.
댓글
0