= 챗GPT 생성 이미지
[이코리아] 생성형 인공지능(AI)이 업무 혁신의 핵심 도구로 떠올랐지만, 정작 비용 측면에서는 인간 직원보다 효율이 떨어질 수 있다는 지적이 잇따르고 있다. 한때 AI는 인건비를 줄이고 업무 자동화를 앞당기는 ‘저렴한 대체재’로 여겨졌지만, 고성능 모델과 에이전트형 AI 활용이 늘어나면서 연산 자원과 토큰 비용이 새로운 부담으로 부상하고 있기 때문이다.
특히 AI 활용 방식이 단순 질의응답에서 코드 작성, 문서 분석, 업무 자동 수행 등으로 확장되면서 기업들의 비용 부담이 커진다는 분석이 나온다. AI가 한 번의 질문에 답하는 수준을 넘어 여러 단계의 추론을 반복하고, 긴 문맥을 유지하며, 여러 도구를 호출하는 방식으로 작동할수록 사용되는 토큰의 양도 빠르게 늘어나기 때문이다. 이에 따라 AI 도입 경쟁의 초점도 ‘얼마나 많이 쓰느냐’에서 ‘얼마나 효율적으로 쓰느냐’로 옮겨가는 양상이다.
최근 해외 ICT 매체에서는 AI가 인간 노동을 대체해 비용을 줄일 것이라는 기대와 달리, 오히려 사람보다 더 비싼 도구가 될 수 있다는 분석을 잇따라 내놓고 있다. 브라이언 카탄자로 엔비디아 응용딥러닝 부사장은 최근 악시오스와의 인터뷰에서 “우리 팀의 경우 컴퓨팅 비용이 직원 비용을 훨씬 넘어선다”고 말했다. 이는 현 단계에서 일부 고성능 AI 활용이 인건비 절감 수단이라기보다 더 큰 비용 부담으로 작용할 수 있음을 보여주는 사례로 해석된다.
포천 역시 이를 두고 최근 기술기업들의 AI 투자와 감원 흐름 사이에 경제적 불일치가 존재한다고 짚었다. 빅테크 기업들이 AI 인프라와 도구에 막대한 비용을 투입하는 동시에 인력 감축을 단행하고 있지만, 현 단계에서 AI가 반드시 사람보다 저렴한 대체재로 작동하고 있는지는 불분명하다는 것이다. 일부 기업에서는 AI 도구 도입 이후 예상보다 빠르게 예산이 소진되면서 비용 구조를 다시 검토하는 사례도 나타나고 있다.
이 같은 문제는 AI 자동화의 경제성이 아직 모든 업무에서 입증된 것은 아니라는 연구 결과와도 맞닿아 있다. MIT 연구진은 지난 2024년 시각 업무가 핵심인 직무를 분석한 결과, AI 자동화가 경제적으로 타당한 경우는 제한적이었다는 연구 결과를 내놓았다. 기술적으로 자동화가 가능하더라도, 실제 도입 비용과 운영비, 유지 관리 비용까지 고려하면 상당수 영역에서는 여전히 사람이 수행하는 편이 더 경제적일 수 있다는 의미다.
문제는 에이전트형 AI가 확산될수록 비용 변동성이 더 커진다는 점이다. 기존 챗봇형 AI는 사용자가 질문을 입력하고 답변을 받는 비교적 단순한 구조였지만, 에이전트형 AI는 목표를 수행하기 위해 여러 차례 질문을 재구성하고, 외부 도구를 호출하며, 중간 결과를 검토한 뒤 다시 작업을 이어간다. 이 과정에서 입력과 출력 토큰이 반복적으로 쌓이고, 사용자가 체감하지 못하는 사이 비용이 급격히 증가할 수 있다. 이 때문에 AI를 단순히 인건비 절감 수단으로만 보는 접근에는 한계가 있다는 지적이 잇따른다.
= 클로드 누리집
이 가운데 AI 서비스 기업들도 요금 체계를 다시 손보고 있다. 그동안 생성형 AI 서비스는 월 구독료를 내면 일정 범위 안에서 자유롭게 사용하는 정액제 방식이 대부분이었으나, 이제는 토큰 사용량에 따라 가격을 책정하는 경우가 늘어나는 것이다.
AI 기업들이 요금제를 손보는 배경에는 수익성 문제도 있다. 이용자 입장에서는 월 구독료를 내고 AI를 자유롭게 쓰는 것처럼 보이지만, 서비스 제공 기업은 사용자가 요청을 보낼 때마다 데이터센터 전력, 반도체, 클라우드, 네트워크 비용을 부담해야 한다. 이러한 흐름에 따라 AI 기업들은 단순히 고성능의 AI 모델을 개발하는 것을 넘어, 같은 비용으로 더 많은 토큰을 처리하고 더 안정적으로 서비스를 제공하는 방향으로 무게중심이 이동하고 있다.
대표적인 사례로 앤트로픽은 최근 기업용 요금제인 '클로드 엔터프라이즈'를 사용량 기반 과금 방식으로 전환했다. 기존에는 월 200달러만 지불하면 일정량의 토큰 사용이 포함된 패키지를 이용할 수 있었으나 이제는 기본 요금 월 20달러에 실제 사용량에 따라 추가 비용을 내는 구조로 바뀌었다. 이에 따라 AI를 많이 사용하는 기업은 비용이 2~3배까지 증가할 수 있다는 분석도 나온다.
깃허브 코파일럿도 사용량 기반 과금 체계로 변경했다. 코파일럿은 초기에는 코드 자동완성과 간단한 추천 기능이 중심이었지만, 최근에는 저장소 단위 코드 탐색, 파일 수정, 테스트, 리뷰 등 더 복잡한 에이전트형 작업으로 기능이 확장되고 있다. 이러한 작업은 단순 자동완성보다 훨씬 많은 연산 자원을 요구하게 된다.
이에 따라 AI 도구를 실제 업무에 도입한 기업들도 비용 관리 기준을 마련하고 있다. 초기에는 직원들에게 AI 활용을 적극 장려하며 가능한 많이 써보도록 독려하는 분위기가 강했지만, 토큰 비용이 가시화되면서 사용량과 성과를 함께 따지는 방향으로 전환되는 흐름이다.
대표적인 대응은 토큰 할당과 승인제다. 모든 직원에게 동일한 수준의 AI 사용 권한을 주기보다 개발자, 데이터 분석 인력 등 활용도가 높은 직군에 자원을 우선 배정하고, 상위 요금제나 고성능 모델 사용 시 업무상 필요성과 기대 성과를 설명하도록 하는 방식이다.
업무별로 모델을 구분해 쓰는 전략도 거론된다. 단순 요약이나 문장 정리에는 저렴한 모델을 쓰고, 복잡한 코드 분석이나 대규모 데이터 해석처럼 높은 추론 능력이 필요한 업무에만 고성능 모델을 투입하는 식이다. 불필요한 장문 입력이나 반복 호출을 줄이기 위한 내부 가이드라인의 필요성도 거론된다.
댓글
0