/사진=김성욱 경영학 박사
[이슈앤비즈 현귀자 기자] 글로벌 AI 토큰 사용량이 1년 만에 약 10배 늘었다. 2026년 들어 AI 사용이 산업 전체에 빠르게 침투했을 뿐 아니라, AI 사용방식도 더 이상 한 번 검색해서 한 번 답을 받는 도구가 아니라 사용자가 자는 동안에도 일하는 인프라로 격상되었다는 것이다. 최근 미국 빅테크 4사가 1분기 실적에서 모두 데이터센터 capex 확대를 발표한 배경이 여기에 있다고 보여진다.
이 변화의 중심에 AI Agent가 있다. Agent는 사용자가 목표만 주면 스스로 단계를 분해하고, 도구를 호출하고, 결과를 관찰하고, 잘못되면 수정하는 폐쇄형 루프 시스템(closed-loop system)이다. 즉, 한 번 답하고 끝나는 게 아니라 여러 번 자기 자신을 호출한다. 최근 들어 각광을 받게 되고 있는 Claude Code 등의 AI모델을 비롯해서 다양한 형태가 등장하고 있다.
이들 덕분에, 사용자가 못하던 것을 가능하게 해주고(외연 효능감), 할 수 있더라도 기존보다 더 수십, 수백 배 빠르게 일하고(내포 효능감), 심지어는 유저가 자는 동안에도 대신 일을 하게 된 것이다(위임 효능감).
이는 AI가 단순 도구의 시대에서 인프라의 시대로 넘어가는 결정적 변화를 말해준다. 지금의 통신 인프라를 사용하는 것처럼, 개인 agent가 영구 ID 가지면서 24시간 가동하고, 전화번호처럼 “내 agent 주소” 보유하면서 다른 사람의 agent와 통신하고, 사용자가 잠들어도 일을 처리한다. 심지어는, 언젠가는 통신같은 단순 인프라 이상으로, 휴머노이드 로봇의 경우 날이 갈수록 더욱 더 똑똑해질 수도 있는 발전하는 인프라가 될 수 있다는 것이다.
다만, 그 안에서 일하는 LLM(대규모 언어모델)은 본질적으로 확률적 패턴 완성기다. 그러다 보니, 질문에 대해서 그럴듯한 답을 만들어내지만, 그것이 사실인지 여부와는 무관하다. 실제로 AI가 가장 자신 있게 거짓말하는 순간을 본 적 있을 것이다. 정확한 수치로 침착한 톤이지만, 사실이 아닌 응답. 이러한 한계는 모델이 더 커져도 본질적으로 사라지지 않는다. LLM이 강력한 도구라는 사실은 분명하다. 그러나 중요한 순간에는 검증 시스템 없이 위임이 불가능하다는 한계 또한 피할 수 없다.
여기서 도메인 지식 구축 시스템, 즉, 온톨로지라는 개념이 등장한다. 온톨로지는 30년 베테랑의 머릿속을 객체와 관계와 규칙으로 컴퓨터가 이해하기 쉽게 코드화한 것으로서 그래프 형태로 나타낼 수 있다.
특이한 점은, LLM은 자신 있게 거짓을 말하고, 온톨로지는 모르는 것에 침묵한다. 두 시스템이 실패하는 양상이 정확히 반대이기 때문에, 그래서 둘은 짝이 된다. 즉, 잘 결합되면 환각률이 한 자릿수씩 압축된다. 10%가 5%로, 1%로 떨어진다. 거기다 여러단계의 추론까지 거치면 거의 무시할 수 있을 정도로까지 떨어진다. 이렇게 두 시스템이 결합될 때만 도달할 수 있는 영역이 곧 “위임 가능한 Agent”의 진짜 출발선이다.
탁월한 AI 성과를 위해 도입된 ‘폐쇄형 루프’ 구조의 경제적 의미는 단순하다. 한 번 답하던 시대 당시에, 사용자 한 사람이 만드는 토큰이 5천 단위였다면, Agent 시대에 한 사람의 작업이 만드는 토큰은 5십만에서 5백만 단위로 곱셈 단위가 100배에서 1000배로 껑충뛰게 된다. 그리고 이 토큰은 모두 메모리를 거쳐 간다. 즉, AI를 사용하는 1인당 메모리 수요는 곱셈으로 늘어난다는 의미로서. 메모리가 갑자기 부족해진 진짜 이유가 이제 이해가 된다. 간단히 표현하면, 정확한 AI에게는 추론기능이 중요하기 때문에 AI Agent는 본질적으로 메모리를 먹는 워크로드다.
최근 발표된 미국 빅테크 1/4분기 실적이 이 구조를 그대로 보여줬다. 마이크로소프트, 구글, 메타, 아마존 등이 모두 capex 확대를 발표했는데, 그 1순위 사유로 메모리를 적시했다. 심지어 아마존은 메모리 공급을 경영 리스크로 분류했다. 메모리는 더 이상 학습용 부품이 아니라 AI가 사용자를 기억하기 위한 "그릇"이라는 사실이 확연히 드러난 1/4분기다. 이 발견 때문에 한국 메모리 사이클이 당초 예상한 V자에 불과하는게 아니라, 정점이 더 길고 정상화가 더 완만한 사다리꼴 형태로 변형되고 있다는 견해가 나오기 시작했다. 즉, 아직은 조심스런 표현이지만, 단순한 호황 연장이 아니라 사이클 형태 자체의 변형일 수도 있다는 것이다.
끊임없는 투자지속과 관련하여 이 시점에서 도메인 전문가의 필요성이 등장한다. 수백, 수천 배의 토큰이 소비된다는 사실에는 다른 의미도 숨어 있다. Agent에게 단순히 목표를 주고 결과만 받아 끝낼 수는 없기 때문에, 그 결과가 옳은지 확인하는 검증 시스템까지 함께 작동했다는 뜻이다. 토큰 폭증은 곧 검증 시스템의 폭증이기도 하다.
즉, 검증 능력 없이는 위임이 없고, 그러한 검증 능력은 30년 누적된 판단력에서 온다. AI 시대 이전 시절의 베테랑은 직접 일을 잘하는 사람이었다. AI 시대에 베테랑은 AI가 한 일을 검증할 수 있는 사람이다. 100명의 비전문가가 Agent를 쓰려면, 그들이 받은 결과를 검증할 수 있는 1명의 베테랑이 어딘가에 있어야 한다. 베테랑 1명의 검증 능력이 100명의 효능감을 받쳐주는 구조다. 이 구조 위에 새로운 비즈니스 모델이 등장한다.
30년 부동산, 30년 인프라, 30년 자본시장, 30년 제조 현장의 베테랑이 살아 있는 한국에서, 이들의 머릿속이 온톨로지로 옮겨지지 않으면 "우리의 그릇" 안의 마진은 다른 나라로 넘어간다. 진짜 소버린 AI를 달성하는 방법 중의 하나라고 본다. 모델이 한국 것이냐가 아니라, 그릇 안에 채워지는 도메인이 한국 것이냐가 소버린 AI의 본질이다. 도구는 평등하게 발전하지만, 충실한 도메인지식은 시간이 지날수록 비대칭적으로 발전하는 자산이 되기 때문이다.
오늘 시작할 일을 권한다. 우리 모두 본인이 가장 잘 아는 한 영역에서, 후배에게 가장 자주 알려주는 판단 기준 다섯 가지를 다섯 줄로 정리해 보시기 바란다. 그 다섯 줄이 본인의 첫 검증 회로이자 첫 도메인 온톨로지다. 한국 베테랑의 30년은 늘 한 줄의 결심에서 시작됐다. 그릇은 한국이 잡았다. 그 안에 무엇을 담을지는 베테랑 한 사람의 메모장 한 장에서 시작된다.
메모리에 이어서, 그게 한국이 만들 수 있는 진짜 소버린 AI다.
▲김성욱 경영학 박사
현 한국인프라연구원 대표이사
전 SK증권 리서치센터장
전 국민연금 기금운용팀장
댓글
0