구글이 22일(현지시간) 미국 라스베이거스에서 열린 '구글 클라우드 넥스트 2026' 행사에서 8세대 텐서 프로세서 유닛(TPU) 두 종을 전격 공개했다고 밝혔다.
이번에 발표된 8세대 TPU는 모델 훈련에 최적화된 'TPU 8t'와 추론 전용인 'TPU 8i'로 나뉜다. 하나의 칩으로 모든 작업을 처리하던 기존 아키텍처를 개편해 각 연산 과정의 효율을 극대화한 전략을 택했다.
학습 전용 칩인 TPU 8t는 대규모 데이터 처리 속도를 끌어올리는 데 집중했다. 단일 슈퍼포드 기준 9600개의 칩을 연결해 초당 100경 번의 연산이 가능한 121 엑사플롭스(ExaFlops)의 성능을 발휘한다.
버고 네트워크(Virgo Network)와 결합하면 단일 클러스터 내 최대 100만 개의 칩을 하나처럼 가동할 수 있어 인공지능 모델 학습 기간을 획기적으로 단축시킨다.
8세대 TPU. 사진=구글
추론 전용 칩인 TPU 8i는 칩당 288GB 고대역폭 메모리와 기존 대비 3배 늘어난 384MB의 온칩 SRAM을 탑재했다. 에이전트 구동 시 발생하는 지연 시간을 최소화하기 위해 데이터 전송 경로를 절반으로 줄인 보드플라이(Boardfly) 아키텍처를 도입했다. 전력 효율과 연산 능력을 높여 비용 대비 성능 지표를 이전 세대보다 80%가량 향상시켰다.
선다 피차이 구글 최고경영자(CEO)는 "에이전틱 AI는 추론, 계획, 실행의 연속적인 루프 속에서 작동하며, 이는 기존과 전혀 다른 차원의 인프라 요구사항을 발생시킨다"며 "8세대 TPU는 최첨단 모델 학습부터 수백만 개의 에이전트 동시 구동까지 모든 단계를 지원하는 수직 최적화된 시스템"이라고 설명했다.
토머스 쿠리안 구글 클라우드 CEO는 하드웨어 이원화 방향에 대해 "생성 AI가 폭넓게 확산했을 때 사람들이 학습에 최적화한 시스템과 추론에 맞춘 시스템을 각각 원할 것으로 판단했다"며 "AI 인프라 확장에서 전력이 제약 요인이 될 것을 예상하고 설계 단계부터 에너지 효율을 극대화하는 데 중점을 뒀다"고 말했다.
아민 바흐다트 구글 수석부사장은 "AI 에이전트의 부상과 함께 훈련과 서비스 제공 요구 사항에 맞춰 개별 특화된 칩이 커뮤니티에 도움이 될 것이라 판단했다"며 "에이전트 인프라는 단순한 칩 하나가 아니라 네트워크, 스토리지, 소프트웨어가 결합된 통합 엔진"이라고 강조했다. 이어 "8세대 TPU는 구글의 자체 Arm 기반 CPU인 ‘액시온(Axion)’ 헤더를 통합해 성능을 높이면서도 에너지 효율을 2배 개선해 전력 소모 부담까지 줄였다"고 밝혔다.
하드웨어 혁신과 발맞춰 구글은 코딩 지식 없이도 비즈니스 에이전트를 구축할 수 있는 '제미나이 엔터프라이즈 에이전트 플랫폼'을 동시 출시했다. 구글 자체 모델 외에 앤트로픽의 클로드 등 외부 모델까지 지원 범위를 넓혔다. 국내에서는 카카오뱅크와 CJ올리브영이 해당 에이전트 플랫폼을 도입하기로 했다.
쿠리안 CEO는 이 같은 생태계 확장에 대해 "이는 단편적인 서비스를 엮어서 제공하는 것이 아니라 혁신을 위해 포괄적인 기반을 제공하는 것"이라며 "지난 1년 동안 에이전트 시대를 위해 인프라, 모델, 데이터 클라우드, 보안 및 도구에 이르기까지 수직적으로 최적화된 통합 스택을 준비했다"고 말했다.
쿠리안 CEO는 "8세대 TPU는 기업들이 AI를 통해 실질적인 비즈니스 성장을 이룩하는 핵심 엔진이 될 것"이라며 "에이전트형 기업으로의 전환은 모든 기업이 나아가야 할 미래"라고 내다봤다. 끝으로 "구글 클라우드의 기술적 준비는 끝났다. 이제 기업이 성장 엔진을 구축해야 할 때"라고 선언했다.
댓글
0