[사진=가트너(Gartner)]
[디지털데일리 이상일기자] 가트너(Gartner)가 2030년까지 1조 개 파라미터 규모 거대언어모델(LLM)의 추론 비용이 2025년보다 90% 이상 줄어들 것으로 전망했다.
가트너는 반도체·인프라 효율 개선, 모델 설계 혁신, 추론 특화 반도체 확대, 엣지 디바이스 적용 확대 등을 비용 하락의 주요 요인으로 꼽았다. 2030년에는 2022년 초기 동일 규모 모델보다 비용 효율성이 최대 100배 개선될 것으로 내다봤다.
이번 전망은 두 가지 시나리오를 기반으로 한다. 최첨단 반도체를 활용하는 프런티어(Frontier) 시나리오와 다양한 기존 반도체를 혼합 활용하는 레거시 혼합(Legacy blend) 시나리오다. 레거시 혼합 시나리오는 연산 성능이 낮아 프런티어 시나리오보다 비용이 높게 나타났다.
가트너는 토큰 단가 하락이 곧바로 기업의 AI 비용 절감으로 이어지지는 않는다고 분석했다. AI 에이전트는 기존 챗봇보다 작업당 5배에서 최대 30배 많은 토큰을 필요로 한다. 토큰 단가가 내려가도 사용량 증가 속도가 더 빠르기 때문에 전체 추론 비용은 오히려 늘어날 수 있다는 설명이다.
윌 소머(Will Sommer) 가트너 시니어 디렉터 애널리스트는 "범용 토큰 가격 하락을 고급 추론 역량의 대중화로 오해해서는 안 된다"며 "현재 저렴한 토큰 비용으로 아키텍처 비효율을 가리는 기업은 에이전트 기반 AI 확장 단계에서 한계에 직면하게 될 것"이라고 말했다.
가트너는 반복적이고 빈도 높은 업무는 소형 모델이나 도메인 특화 언어 모델로 처리하고, 프런티어급 모델은 고부가가치 복잡 추론 작업에만 선택적으로 활용해야 한다고 권고했다.
댓글
0