'훈련·추론' 쪼갠 특화 AI 칩
1년 만에 성능 80% 향상
구글이 21일 미국 네바다주 라스베이거스에서 2종의 8세대 텐서처리장치(TPU)를 공개하자 행사에 초청받은 미디어와 증권사 관계자들이 인공지능(AI) 칩 실물을 보기 위해 몰려들고 있다. 라스베이거스=박지연 특파원
21일(현지시간) 미국 네바다주 라스베이거스의 행사장 한편에는 구글이 2018년부터 선보인 1~7세대 인공지능(AI) 반도체인 텐서처리장치(TPU)가 나란히 전시돼 있었다. 지난해 공개한 7세대 TPU (코드명 아이언우드) 옆자리에는 차세대 칩의 등장을 암시하듯 검은 베일이 씌워져 있었다. 잠시 뒤 “AI 인프라의 미래를 공개한다”는 안내가 흘러나오며 무대 위 파란 커튼이 걷히자 숨은 공간이 드러났다. 구글이 초청한 전세계 언론과 애널리스트 200여 명은 ‘엔비디아 대항마’를 더 가까이서 보기 위해 발걸음을 재촉했다.
TPU란 ‘AI만을 위해 닦은 고속도로’다. 일반적인 그래픽처리장치(GPU)가 여러 용도로 쓰이는 범용 도로라면, TPU는 AI의 핵심 연산인 텐서 처리만을 위해 설계된 전용 공장 기계인 것이다. 전 세계 기술 기업들이 엔비디아의 GPU를 구하지 못해 발을 동동 구를 때, 구글은 자체 칩을 통해 독자적인 생태계를 구축해 왔다.
구글은 이날 연례 개발자 콘퍼런스 ‘구글 클라우드 넥스트 2026’ 프리뷰 행사에서 차세대 AI 반도체 TPU 2종(8t·8i)을 전격 공개했다. 기존 TPU가 훈련과 추론을 모두 수행하는 범용 도구였다면, 8세대는 작업을 철저히 분리해 효율을 극대화했다. 거대 AI 모델을 가르치는 훈련전용 8t와 학습된 모델이 빠르게 답을 내도록 돕는 추론전용 8i가 그 주인공이다.
'AI 전용 고속도로' TPU, 엔비디아 철옹성 흔들까
구글이 21일(현지시간) 미국 네바다주 라스베이거스에서 2종의 8세대 텐서처리장치(TPU)를 공개했다. 라스베이거스=박지연 특파원
무대에 오른 아민 바닷 구글 AI·인프라 부문 수석부사장(최고기술책임자)은 “이제 구글은 최첨단 AI 모델(제미나이), 초대형 클라우드 인프라, 자체 AI 반도체라는 3박자를 모두 갖춘 거의 유일한 기업”이라고 말했다. 실제 8세대 TPU는 전작 ‘아이언우드’ 대비 가성비(달러당 성능)도 최대 80% 향상된 효율을 제공한다. 구글 측은 자사 TPU를 활용할 경우, 외부 칩을 임대해 쓸 때보다 AI 서비스 운영 비용을 절반 이하로 낮출 수 있다고 설명했. 이는 사실상 엔비디아가 장악한 AI 인프라 시장의 과점 구조를 ‘비용 효율성’으로 정면 돌파하겠다는 의지로 풀이된다.
범용 AI 칩 → 특화 전략
TPU 8t(왼쪽)과 TPU 8i. 구글 제공
구글의 이번 전략은 AI 모델이 거대해질수록 학습 비용은 기하급수적으로 늘고, 추론 단계에서의 전력 소모가 감당하기 힘든 수준에 이르렀다는 시장 한계점을 정확히 겨냥했다. 학습 전용인 8t로 모델 구축 비용을 아끼고, 추론 전용인 8i로 대중화 서비스의 문턱을 낮추겠다는 계산이다.
현장 반응은 뜨거웠다. 몬테네그로에서 온 글로벌 투자은행 애널리스트 페르난도는 “AI 비즈니스의 관건은 결국 성능과 비용인데, 구글은 AI 인프라 전체를 갖고 있으면서 AI 칩까지 공개했다”며 “내일 공개되는 행사에서 세부 기능까지 확인해봐야 알겠지만 AI 인프라 전체를 통제할 수 있는 구조를 공개한 것”이라고 평가했다. 8세대 TPU는 올해 안에 정식 서비스에 적용될 예정이다.
댓글
0