[전문가 기고] 토큰이라는 전기세, 그리고 오픈 가중치가 여는 문

구름 빅밸류 대표이사

구름 빅밸류 대표이사

|

하나의 청구서가 기업들의 재무제표를 잠식하고 있다. ‘토큰(Token) 비용’이라는 청구서다. 한때 클라우드 서버 비용이 스타트업의 숨통을 조였듯, 이제는 생성형 AI의 연료인 LLM API 비용이 그 자리를 꿰찼다. 사무실 임대료를 넘어선 기업도 이미 나오고 있다. 우리도 그렇다. 토큰은 21세기의 새로운 전기다.

2022년 말 우리는 채팅이 신기해서 챗GPT를 썼다. 2024년에는 코드를 짜게 했다. 2026년 현재 AI 에이전트는 메일을 읽고, 보고서를 쓰고, 데이터베이스를 뒤진다. 그 모든 과정의 연료가 토큰이다. 최근 구글은 자사 모델이 API 사용만으로 분당 100억 토큰 이상을 처리하고 있다고 밝혔다. 지금 이 순간에도 전 세계 수십만 개의 소프트웨어가 24시간 토큰을 태우며 돌아가고 있다.

전기세가 산업혁명의 인프라 비용이었다면, 토큰비는 지능혁명의 인프라 비용이다. 어느 시대에나 인프라 비용이 임계점을 넘으면 사람들은 직접 발전소를 짓기 시작한다. 토큰비가 감당하기 어려운 수준에 이르는 순간, 고성능 GPU를 사서 자체 서버를 구축하는 일은 부동산 투자만큼이나 진지한 재무적 결정이 된다.

이 철옹성 같던 비용 구조에 균열을 낸 것은 ‘오픈 가중치(Open Weights)’ 모델들이다. 메타의 Llama가 먼저 문을 열었고, 알리바바의 Qwen은 더 자유로운 방식으로 밀어붙였다. 2025년 OpenAI의 gpt-oss는 그 교착 상태에 뜻밖의 균열을 냈다. 그리고 최근 공개된 구글의 Gemma 4는 그 흐름에 쐐기를 박았다. 모델은 더 가벼워졌고, 텍스트를 넘어 이미지와 음성까지 아우르게 됐다. 무엇보다 AI를 클라우드 밖, 우리 손안의 기기와 실제 산업 현장으로 끌어내리고 있다는 점이 중요하다.

오픈 모델의 진화는 AI 산업을 인프라 경쟁과 서비스 경쟁이라는 두 개의 게임으로 갈라놓고 있다. 거대한 GPU 클러스터를 쌓는 경쟁과 그 위에서 어떤 사용자 경험과 업무 흐름을 만드느냐의 경쟁은 이제 완전히 다른 게임이다.

이 구도에서 데이터의 역할도 둘로 쪼개진다. 하나는 모델이 태어날 때 먹는 양식, 곧 ‘학습 데이터’다. 부동산 실거래 패턴이나 감정평가 기준 같은 도메인 특화 데이터를 얼마나 정교하게 가공해 학습시키느냐가 AI 서비스의 품질을 가른다. 다른 하나는 모델이 현실을 판단할 때 참조하는 ‘추론 데이터’다. 오늘 등록된 매물, 방금 갱신된 가격, 실시간 현장 정보처럼 에이전트가 즉각 소비하는 데이터다.

학습 데이터는 모델의 두뇌를 만들고, 추론 데이터는 그 두뇌가 현실과 연결되는 통로다. 빅밸류가 준비하는 것이 바로 이 두 가지다. 에이전트를 더 똑똑하게 만드는 학습 데이터, 그리고 에이전트가 실시간으로 읽고 쓰는 공간 지능.

토큰은 전기가 됐다. 오픈 가중치는 발전기를 대중화했다. 이제 누가 그 전기로 무엇을 만드느냐의 시대가 열린다.

Tag