토큰 사용 급증 속 실수요 과장 가능성 제기
문제는 인프라 투자·성과 평가도 토큰 중심
앤트로픽, 정액제 포기하고 토큰 과금 전환
AI(인공지능) 그래픽=뉴시스
[초이스경제 고계연 기자] 인공지능(AI) 수요가 폭발적으로 증가하는 것처럼 보이지만, 실제 사용 수요는 과장됐을 가능성이 제기됐다.
17일(현지시간) 미 경제방송 CNBC는 "AI 활용 지표로 쓰이는 '토큰(token)' 소비가 급증하고 있지만, 이 수치가 실제 생산성이나 수익성 수요를 과장할 수 있다"고 지적했다. CNBC는 이러한 왜곡 가능성을 가장 현실적으로 인식하고 있는 AI 스타트업으로 앤트로픽을 꼽아 눈길을 끈다.
AI 사용량은 보통 토큰으로 측정된다. 단순 대화는 수백 토큰이지만, 코딩·웹탐색·자동화 작업 등 에이전트형 AI는 한 번에 수천~수백만 토큰을 소모한다. AI 기업들은 토큰 소비 급증을 수천억 달러의 인프라 투자 근거로 제시해 왔다.
문제는 토큰 소비가 왜곡된 지표가 되고 있다는 점이다. 메타·쇼피파이는 직원별 토큰 사용량을 순위로 관리하고, 젠슨 황 엔비디아 최고경영자(CEO)는 "AI 사용 비용이 적은 고연봉 엔지니어는 문제"라고 말한다. 기업들이 AI 도입을 사용량으로 측정하자, 직원들은 성과 대신 지표에 최적화하기 시작했다.
CNBC에 따르면 데이터·AI 플랫폼 기업 데이터브릭스의 알리 고드시 CEO는 "돈을 많이 쓰는 것 자체는 쉽다"며 "같은 쿼리를 여러 곳에 다시 보내거나 반복 실행하면 비용은 급증하지만, 성과는 안 나온다"고 꼬집었다. 하버드경영대학원 AI연구소의 젠 스테이브도 "수많은 최고기술책임자와 최고정보책임자들이 AI 투자 대비 효과(ROI)를 어떻게 측정해야 할지 여전히 찾지 못하고 있다"고 전했다.
앤트로픽은 수요 예측이 틀릴 가능성에 대비하고 있다. 다리오 아모데이 CEO는 데이터센터 구축에 1~2년이 걸리기 때문에 기업들이 아직 검증되지 않은 수요에 지금 수십억 달러를 베팅하는 상황이라고 설명했다.
앤트로픽은 이런 불확실성을 반영해 정액 요금제에서 토큰 기반 과금으로 방향을 틀었다. 월 200달러의 '맥스 플랜'이 대표적인데, 일부 개발자들이 이를 이용해 에이전틱 도구를 상시 구동하며 수천 달러 규모의 사용량을 처리하자, 회사는 지난 4일 해당 접근을 차단했다. 기업 고객 역시 기존 정액제는 유지하되, API(개발자용 연동 방식) 사용은 토큰 소비량에 따라 별도로 과금하는 구조로 전환했다.
오픈AI 챗GPT 총괄 닉 털리는 "무제한 요금제는 무제한 전기 요금제와 같다"며 현실성이 없다고 인정했다. 기업 결제 플랫폼 램프의 CEO 역시 고객사 AI 지출이 1년 새 13배 늘었지만 예산 산정 기준은 없다고 지적했다.
앤트로픽과 오픈AI는 모두 올해 기업공개를 준비 중이다. 앤트로픽은 토큰 기반 과금으로 실제 고객 가치를 정확히 보여주는 데이터를 쌓는 반면, 오픈AI는 겉으로는 큰 수치를 갖고도 실수요를 입증하기 어려운 처지다. AI 수요가 과장된 것으로 드러날 경우, 현실에 맞게 가격을 설계한 기업이 살아남을 것이라는 전망이 나온다.
댓글
0