딥시크·사스포칼립스·터보퀀트…시장은 매번 같은 곳에서 틀렸다 [기고]
높아진 효율로 시장의 수요와 병목 이동시켜
"AI 메모리 압축 6배 개선에도 수요는 500배 팽창해"
이용권 고릴라PE 파트너
2026-03-30 10:11:24
이용권 고릴라PE 파트너.
딥시크 쇼크, 사스포칼립스(SaaSpocalypse), 그리고 지난주 터보퀀트(TurboQuant)까지. 시장은 항상 먼저 팔았다. 그리고 중요한 질문은 늘 한발 늦게 등장했다.
높아진 효율이 수요와 병목을 어디로 이동시키느냐다.
인공지능(AI) 혁신이 올 때마다 시장은 인과 사슬의 첫 번째 고리에서 멈춘다. 효율이 올랐다. 기존 것이 덜 필요해질 것이다. 팔아라. 그러나 인과 사슬은 거기서 끝나지 않는다. 효율 개선은 단위 비용을 낮추고, 낮아진 비용은 사용량을 폭증시키며, 폭증한 사용량은 병목을 다른 곳으로 옮긴다. 시장이 팔아치운 자산 중 일부는 바로 그 새로운 병목의 자리에 서 있다.
딥시크·키미(KImI K2) - 스케일링은 끝난 것이 아니라 분산됐다
지난해 1월 딥시크 충격으로 엔비디아 시가총액은 하루 만에 약 5900억달러가 증발했다. 적은 컴퓨트로도 높은 성능이 가능하다는 신호가 나오자, 시장은 곧바로 그래픽처리장치(GPU) 수요 감소를 떠올렸다. 그러나 딥시크가 실제로 보여준 것은 스케일링 법칙의 종말이 아니었다.
스케일링은 끝난 것이 아니라 분산됐다.
학습 클러스터 안에 집중되던 컴퓨트가 이제는 추론, 에이전트, 검색, 툴 사용 전반으로 퍼지고 있다. 파라미터와 데이터, 컴퓨트를 더 많이 투입할수록 능력이 도약한다는 원리는 여전히 유효하다. 달라진 것은 그 컴퓨트가 소비되는 위치다.
시장은 이를 수요 파괴로 읽었지만, 실제로는 수요의 이동이었다. 엔비디아 주가는 한 달 남짓한 기간에 낙폭 대부분을 만회했다.
사스포칼립스 - 에이전트는 판단을 자동화하지만, 책임은 자동화할 수 없다
지난 2월 앤트로픽발 워크플로우 자동화 공포는 하루 만에 약 2850억달러 규모의 소프트웨어·금융주 매도를 촉발했고, 3월에도 유사한 불안이 다시 고개를 들었다. 에이전트가 프론트 엔드를 대신하더라도, 급여·세무·회계처럼 결정론적 규칙과 감사 추적이 필요한 백엔드 시스템은 오히려 더 중요해진다.
에이전트는 판단을 자동화하지만, 그 판단의 책임 소재는 자동화할 수 없다. 에이전트가 늘어날수록 이 시스템을 통과하는 트랜잭션은 오히려 늘어날 가능성이 크다.
시장은 소프트웨어의 소멸을 상상했지만, 실제로 강화되는 것은 핵심 업무 기록 시스템(SOR)의 역할이다.
터보퀀트 - 압축에는 천장이 있고, 수요에는 천장이 없다
지난주 구글 리서치가 발표한 터보퀀트는 KV 캐시 메모리를 6배 압축하는 알고리즘이다. 당일 삼성전자·SK하이닉스 주가를 끌어내린 그 논문은 이 구조를 가장 선명하게 보여줬다. 그러나 터보퀀트의 직접적 대상은 학습 가중치가 아니라 추론 과정의 메모리 부담이다.
여기서 시장이 놓친 것은 기술의 방향이 아니라 수학의 구조다.
KV 캐시 압축 기술은 지난 10년간 선형으로 내려왔다. 16비트에서 8비트로, 4비트로, 터보퀀트가 달성한 3.5비트까지. 그런데 여기서 물리적 천장이 생긴다.
섀넌은 이미 이 한계를 정의해 놓았다.
정보 이론의 창시자 섀넌에 따르면
데이터는 무한히 압축할 수 없으며, 일정 수준 이하로 내려가면 의미 자체가 유지되지 않는다.
1비트 이하로는 어떤 기술도 내려갈 수 없다.
실제로는 1비트보다 훨씬 전에 의미가 붕괴된다. KV 캐시가 담아야 하는 토큰 간 의미적 거리와 방향성의 엔트로피는 2~3비트 수준이다.
터보퀀트가 3.5비트에서 '정확도 손실 없음'을 선언한 순간, 이것은 기술의 승리이면서 동시에 압축 기술이 실용적 한계에 근접했다는 신호다. 앞으로 압축이 개선될 여지는 최대 3배다.
그리고 그게 수학이 허용하는 전부다.
반면 컨텍스트 창은 지수적으로 팽창했다.
GPT-3(2020년)은 4000토큰이었다. GPT-4(2023년)는 128K 토큰으로
32배 증가
. 제미나이1.5(2024년)는 100만 토큰으로
다시 8배
. 현재 상용 모델은 200만 토큰, 같은 구글 딥마인드의 연구에서는 1000만 토큰 실험이 이미 진행됐다.
3년 만에 500배다. 에이전트 하나가 복잡한 작업을 수행하며 생성하는 KV 캐시는 단순 대화와 비교할 수 없을 만큼 크다. 압축이 최대 3배 개선되는 동안 수요가 500배 팽창했다. 이 비대칭은 경제학 이론이 아니다. 수학의 구조다.
제본스의 역설이 '수요는 줄지 않는다'고 말할 때, 섀넌의 한계는 한 걸음 더 나아가 '압축에는 천장이 있고, 수요에는 없다'는 것을 증명한다. 메모리 병목은 일시적인 게 아니라, 수학이 만든 영구 구조물이다.
세 번의 쇼크, 하나의 패턴이다.
시장은 늘 효율 개선을 수요 파괴로 읽는다. 그러나 기술은 수요를 없애기보다 병목을 옮긴다. AI는 지능의 희소성을 낮추지만, 물리와 제도의 희소성까지 없애지는 못한다. 그래서 승자는 늘 병목의 끝에서 나온다.
이용권 고릴라PE 파트너(yk.lee@gorillainvestment.com)
<저자 약력>
現 고릴라PE 파트너
서울대학교 컴퓨터공학과 졸업
네오위즈 서버개발팀
베인앤드컴퍼니 PEG팀 CTL
앤드비언드 투자본부 상무
댓글
0