인공지능(AI)이 스스로 계획을 세우고 실행하는 'AI 에이전트' 시대로 접어들면서, 데이터센터의 핵심 부품이 그래픽처리장치(GPU)에서 중앙처리장치(CPU)로 무게중심을 옮기고 있다. 2026년 현재 글로벌 반도체 기업들은 AI 추론 과정에서 발생하는 병목 현상(데이터가 정체되는 현상)을 해결하기 위해 고성능 CPU 개발과 시스템 구축에 사활을 걸고 있다.
복잡해진 AI 업무, '감독'의 지시 없인 '선수'도 멈춘다
과거의 생성형 AI가 사용자의 질문에 답만 하는 수준이었다면, 최신 AI 에이전트는 사용자의 복잡한 명령을 수행하기 위해 데이터베이스에 접속하고 외부 앱을 실행하는 등 여러 단계의 작업을 동시에 처리한다. 초기 AI는 단순히 계산을 잘하는 GPU의 역할이 중요했지만, 이제는 전체 작업을 순서대로 배치하고 관리하는 CPU의 ‘조율 능력’이 필수적이다.
AI에게 "내일 서울 날씨를 확인해서 친구에게 우산 챙기라고 메시지를 보내고 일정을 등록해 줘"라고 시켰다고 가정해 보자. 여기서 AI가 문장을 만드는 것은 '선수'인 GPU의 몫이지만, 실제로 날씨 앱을 켜고 메시지 앱을 실행하며 캘린더를 여는 전체 과정은 '감독'인 CPU가 지휘해야 한다. 감독인 CPU가 작전을 짜서 선수들을 적재적소에 기용해야 경기가 풀리는 것과 같은 이치다. 만약 감독의 지시가 늦어지면 아무리 뛰어난 선수(GPU)가 있어도 경기는 엉망이 되고 마는데, 이것이 바로 데이터센터에서 발생하는 병목 현상이다.
엔비디아와 Arm, CPU 비중 높이며 시장 선점 경쟁
이러한 변화에 발맞춰 세계적인 반도체 기업들은 CPU 비중을 대폭 늘리고 있다.
유진투자증권 리포트에 따르면, 엔비디아가 선보인 차세대 클러스터 '베라 루빈 팟(Vera Rubin Pod)'은 기존 시스템보다 CPU 탑재 비중을 33%에서 49%까지 끌어올렸다. 이 시스템은 1152개의 GPU와 1088개의 CPU로 구성되어, 사실상 선수와 감독의 비율을 1대1에 가깝게 맞춘 셈이다.
영국의 반도체 설계 전문기업 Arm 또한 처음으로 직접 설계한 완제품 'AGI CPU'를 출시하며 경쟁에 뛰어들었다. 이 칩은 대만 TSMC의 3나노미터 공정으로 제작되며, 300W의 전력 안에서 최대 136개의 코어가 작동하도록 설계되었다. 랙(Rack) 시스템 단위로 제공되며, 수랭식(물로 열을 식히는 방식) 랙 기준 최대 336개의 CPU와 1PB(페타바이트) 용량의 D램을 탑재한다. Arm은 AI 에이전트 시장이 커짐에 따라 데이터센터용 CPU 시장 규모가 2030년까지 1000억달러(약 150조원)에 달할 것으로 내다보고 있다.
AI 반도체 시장의 주도권은 이제 단순한 연산 속도를 넘어 시스템 전체의 효율과 조율 능력으로 이동하고 있다. 엄청난 전력을 사용하는 데이터센터의 특성상, 효율적인 지휘관인 CPU의 뒷받침 없이는 AI 에이전트의 대중화는 불가능하기 때문이다. 결국 미래 AI 인프라 경쟁의 승패는 GPU라는 강력한 무기와 CPU라는 영리한 두뇌를 얼마나 완벽하게 결합하느냐에 달려 있다.
중기이코노미
댓글
0