본문 바로가기
IT/과학

“GPU 사재기 경쟁 끝났다… 이제 승부는 운영 효율”

안재만 베슬AI 대표 “GPU(그래픽 처리 장치) 공급과 수요 사이에는 지정학적·시간적 미스매치가... 인공지능(AI)발 수요 폭증으로 GPU 공급 병목이 화두가 된 가운데 ‘네오클라우드(Neo-Cloud)’ 업체들이 주목받고...

“GPU 사재기 경쟁 끝났다… 이제 승부는 운영 효율”

[헬로, 프런티어] 안재만 베슬AI 대표

안재만 베슬AI 대표는 지난달 24일 인터뷰에서 "여러 데이터센터의 유휴 GPU를 필요한 곳에 연결·중개하는 전략을 통해 사업 규모가 빠르게 성장하고 있다"고 말했다. /베슬AI

“GPU(그래픽 처리 장치) 공급과 수요 사이에는 지정학적·시간적 미스매치가 존재한다. 데이터센터가 지어졌는데 거기에 맞는 고객을 찾지 못할 수 있고, 수요가 넘치는 데 필요한 GPU를 제때 제공하지 못하는 상황이 동시에 벌어지고 있다.”

최근 인공지능(AI)발 수요 폭증으로 GPU 공급 병목이 화두가 된 가운데 ‘네오클라우드(Neo-Cloud)’ 업체들이 주목받고 있다. 이들은 아마존이나 구글 같은 다목적 클라우드와 달리 오직 AI 개발과 구동에 필요한 GPU만 전문적으로 빌려주는 AI 맞춤형 인프라 기업이다. 최근 엔비디아 등 빅테크들도 관련 업체들에 연달아 투자하면서, 국내 주식시장에서도 해당 업체들만 묶은 ‘네오클라우드 ETF’가 출시되기도 했다.

이 시장에서 차별화된 전략을 내세우는 기업이 있다. 2020년 설립된 베슬AI다. GPU를 직접 매입해 제공하는 대신 전 세계의 유휴 GPU나 타사 클라우드의 남는 자원을 연결·중개하는 방식으로 접근하는 스타트업이다. 지난 달 24일 만난 안재만 대표는 “GPU를 직접 제공하는 방식은 보통 서버를 통째로 1~3년씩 임대해야 하기 때문에 고객 입장에서는 작업이 끝나도 남은 기간 비용을 내야 하거나, 작업이 몰릴 때 유연하게 확장하기 어렵다”고 했다. 그러나 베슬AI는 여러 데이터센터의 GPU 사용을 자동 스케줄링해 수요에 따라 인프라를 유연하게 늘릴 수 있도록 하고 있다.

이 구조 덕분에 비용은 최대 80%까지 절감할 수 있다고 한다. 베슬AI는 현재 캘리포니아대 버클리캠퍼스, 스탠퍼드대, 미네소타대 등 글로벌 연구 기관을 포함해 100여 기관과 협력하고 있으며, 이스라엘·핀란드·일본·한국 등 8국 데이터센터와 계약을 맺고 있다. 운영 GPU 규모도 빠르게 확대되고 있다. 2024년 100장 수준이던 운영 규모는 2025년 말 300장, 올해 3월 3000장까지 늘었고 연말에는 1만장 확보를 목표로 하고 있다.

안 대표는 “거대언어모델(LLM) 학습 열풍 이후 피지컬 AI·월드모델·AI 포 사이언스(AI for Science) 같은 새로운 학습 수요로 GPU 수요가 가파르게 늘고 있다”고 설명했다. 특히 이 분야에서 유동성이 더 빛을 발한다고 한다. 시뮬레이션 분야에 필요한 GPU와 본격 학습에 필요한 GPU가 다르기 때문에 서로 다른 GPU 타입을 왔다 갔다 하며 써야 하는데, 이를 한 데이터센터에서 모두 지원하기는 어려운 경우가 많기 때문이다.

앞으로 AI 인프라 시장의 변화에 대해 안 대표는 “지금도 GPU를 대규모로 찾으려는 고객이 30~40곳 이상 대기 중”이라고 했다. 특히 최근 기업들은 직접 데이터센터를 구축하기보다 이미 잘 갖춰진 GPU 클라우드를 활용하려는 수요가 빠르게 늘고 있다. 안 대표는 “궁극적으로는 국내 자원을 해외에서 잘 활용할 수 있도록 중개하는 역할을 하고 싶다”고 말했다.

이 기사 공유하기
페이스북X

이 기사를 추천합니다

i

댓글

0

후 댓글을 작성할 수 있습니다.

아직 댓글이 없습니다 이 기사에 첫 의견을 남겨보세요.

댓글 수정