[5월19일] 'AI 풀스택' 구글의 딜레마…"내부 컴퓨팅 경쟁에 나선 연구원...

구글이 AI 시대의 유력한 승자 후보라는 평이 최근 여기저기에서 등장하고 있습니다. 이는 주가로도 입증되고 있는데, 이달 초에는 한순간 엔비디아의 시가총액을 넘어

세계 최고의 기업 자리

에도 오른 바 있습니다.

많은 전문가는 구글이 풀스택 기업이라는 점을 강조하고 있습니다. 칩, 모델, 인프라, 유통망 등을 모두 보유하고 있다는 것입니다.

특히 자체 칩인 TPU는 과거 엔비디아 GPU의 보조 역할을 넘어, 이제는 구글의 핵심 경쟁력으로 떠오르고 있습니다. 이제 TPU는 AI 서비스 운영을 넘어, 대규모 모델 학습에도 투입되는 것으로 알려졌습니다.

그래서인지 구글은 '제미나이' 사용자가 빠르게 늘어나는 과정에서도, 오픈AI나 앤트로픽처럼 컴퓨팅 용량 부족에 시달린다는 말은 거의 나오지 않았습니다.

그러나 세상에서 가장 많은 컴퓨팅 자원을 가진 기업조차 내부에서는 줄을 서야 하는 것으로 밝혀졌습니다. 18일(현지시간)

블룸버그

에 따르면, 구글 연구자들은 컴퓨팅 용량을 두고 내부에서 치열한 경쟁을 벌이는 것으로 밝혀졌습니다

워싱턴대학교 명예교수이자 베테랑 AI 연구자인 오렌 에치오니는 "구글 내부에서는 모든 TPU에 3곳의 경쟁자가 있다"라고 밝혔습니다. TPU를 둘러싼 수요가 공급의 3배에 달한다는 말입니다.

이는 최근 TPU의 인기가 높아지며 앤트로픽이나 메타와 같은 업체들과 대형 컴퓨팅 용량 공급 계획을 맺은 데에도 기인합니다. 이 때문에 구글의 AI 연구원들은 때로 유료 고객들에게도 컴퓨팅 경쟁에서 밀리는 느낌을 받는다고 합니다.

심지에 내부에서는 TPU가 희소재처럼 거래됩니다. 관계자들에 따르면, 구글 브레인의 연구원들은 내부 시스템에서 칩을 구매할 수 있는 크레딧을 받았는데, 이는 주식 시장처럼 수요에 따라 내부 거래 가격이 변동합니다. 일부 연구원들은 컴퓨팅 자원을 공동으로 활용, 동료들이 휴가를 가거나 잠을 자는 동안 크레딧을 사용하는 방식으로 최대한의 효과를 거뒀습니다.

실제로 컴퓨팅은 이제 AI 인재를 유치하기 위한 매우 중요한 자원이 됐습니다. 외부의 유능한 연구원을 영입하거나 연구자 이탈을 막기 위해 연산 자원을 제안하는 때도 많다는 것입니다.

또, 컴퓨팅은 수익이 높은 핵심 프로젝트에 집중될 수밖에 없습니다. 따라서 초기 단계의 유망 기술을 개발하려는 연구자들은 '제미나이' 최신 모델 개발 등에 우선순위에서 밀리기 십상입니다.

실제로 구글에서는 이런 문제로 인해 핵심 개발자들이 잇달아 회사를 떠났으며, 이로 인해 탄생한 스타트업으로는

리플렉션 AI(Reflection AI)

와

리커시브 인텔리전스(Ricursive Intelligence)

등이 있습니다. 이들은 설립된 지 얼마 되지 않은 상태에서 각각 수십억달러의 기업 가치로 대규모 투자를 유치했습니다.

리커시브의 공동 창립자인 안나 골디는 딥마인드의 연구원 출신으로, 지난해 회사 설립 후 다양한 경로를 통해 외부에서 예상보다 훨씬 많은 컴퓨팅 파워를 확보할 수 있어 기쁘다고 말했습니다. 그는 "윗사람 10명에게 허락을 구할 필요가 없다. 공동 창립자와 회사에 가장 좋은 방향으로 결정을 내릴 수 있다"라고 만족을 표했습니다.

구글은 성명을 통해 "회사는 컴퓨팅 자원을 핵심 프로젝트에 집중 배정하고, 엄격한 프로세스로 사용자 요구와 연구 발전을 위한 균형을 유지하고 있다"라고 밝혔습니다.

순다르 피차이 CEO는 딥마인드가 최첨단 AI 모델을 구축하는 데 필요한 자원을 확보하는 것에 중점을 두고 있다며, "이는 우리가 하는 모든 일의 기반이기 때문"이라고 설명했습니다. 또 구글 클라우드가 앞으로 타사에 공급할 컴퓨팅 용량이 전 분기 대비 2배 증가한 4600억달러에 달했다며, "단기적으로 컴퓨팅 자원이 제한적이지만, 현재 상황을 극복하기 위해 투자하고 있다"라고 말했습니다.

이번 사례는 세계에서 가장 풍족한 것으로 보였던 구글조차도 내부와 외부의 늘어나는 수요로 컴퓨팅 용량 부족에 허덕이고 있다는 것을 보여 줍니다. 또 연구원끼리 사실상 내부 시장처럼 자원을 거래하며 돌파구를 찾고 있다는 점과 구글이 결국 스스로 경쟁자를 만들어내고 있다는 점은 꽤 역설적입니다.

지난해부터 미국의 일부 투자자들은 빅테크들의 AI 투자에 우려를 보였습니다. 투자에 따른 수익이 따라오지 못한다는 이유입니다. 이런 압박으로 구글이 제미나이 등 수익성 높은 프로젝트에 자원을 집중하는 것도 당연해 보입니다.

결국 AI 경쟁의 핵심 병목은 알고리즘보다 컴퓨팅 자원 자체가 되고 있다는 의미입니다.

그래서 빅테크들은 지금 천문학적인 자금을 AI 인프라에 쏟아붓고 있습니다. 미국 빅테크 4곳은 올해에만 7250억달러 규모의 AI 인프라 투자를 예고했습니다. 또 2027년이면 1조달러를 넘어설 것이라는 관측이 지배적입니다.

이어 18일 주요 뉴스입니다.

정부 주도로 '한국형 휴머노이드' 구축...”모델·하드웨어 역량 결집”

정부가 국내 로봇 역량을 결집해 한국형 휴머노이드 개발을 위한 산학연 협력 체제를 출범했습니다. 이는 중국의 정부 주도 육성책과 비슷하지만, 강력한 보조금과 세제 혜택, 그리고 글로벌 시장의 80%를 장악한 중국의 압도적인 규모를 어떻게 추격할지가 과제입니다.

머스크, '그록 5' 출시 예고..."매개변수 1.5T·커서 데이터 보강"

머스크가 오랜만에 그록 5 개발 상황을 공유했습니다. 매개변수를 3배로 키우고 커서 데이터를 투입하는 등 이제까지 개발한 모델 중 최고가 될 것이라는 예고입니다. 이제까지는 코딩과 수학에서 밀렸다는 평가라, 이번에 역전에 성공할 수 있을지 관심입니다.

AI가 낳은 실리콘밸리 신계층...300억 부자 1만명 탄생과 '7억 연봉자'의 불안

최근 실리콘 밸리에 300억원대 자산을 보유한 기술 관계자들이 1만명을 넘으며, 이 때문에 연봉 7억원을 받고도 박탈감이나 불안함을 느낀다는 말이 나왔습니다. 여기에도 미치지 못하는 대부분은 '영구적 하층계급'이라는 자조도 등장했습니다. AI라는 기술이 사회 전반에 거대한 변화를 만들고 있다는 말입니다.

AI타임스 news@aitimes.com