■ 메모리·전력 수요 충당 못해
챗GPT·제미나이 서비스 제한
빅테크들 줄줄이 요금제 개편도
챗GPT·제미나이와 같은 생성형 인공지능(AI) 사용량 폭증에 따른 ‘AI 블랙아웃(단전)’ 공포가 확산하고 있다. 단순한 답변을 넘어 스스로 판단해 작업을 수행하는 ‘AI 에이전트’ 확산으로 AI 사용량은 기하급수적으로 늘고 있지만, 메모리와 전력과 같은 AI 연산에 필요한 컴퓨팅 인프라는 턱없이 부족해 서비스 장애 사례가 속출하고 있다.
부족한 컴퓨팅 자원을 버티지 못한 일부 빅테크(거대 기술기업)가 고가 요금제를 도입하거나 서비스 기능을 제한하면서 사용자들의 AI 비용 부담도 늘어날 전망이다.
20일 정보기술(IT) 업계에 따르면 올해 들어 글로벌 주요 AI 모델의 과도한 사용에 따른 서비스 중단 및 제한 사례가 속출하고 있다. 지난 1월 말 오픈AI의 챗GPT는 유료 구독 갱신 오류와 무료 사용자의 접속 제한이 반복되며 홍역을 치렀다. 당시 오픈AI 측은 “연초 사용량 폭증이 주요 원인”이라고 밝혔다.
지난달 중순에는 구글의 제미나이에서 지연 사태가 발생했다. 컴퓨팅 자원 효율을 극대화하기 위한 ‘캐시 시스템’을 개편하던 중 발생한 기술적 오류가 원인이었다. 지난 15일에는 앤스로픽의 클로드가 게이트웨이 마비로 서비스가 불안정해졌다. 클로드는 이달 들어 오류가 없었던 날이 단 사흘뿐일 정도로 거의 매일 오류가 이어졌다.
생성형 AI 모델의 잦은 장애는 사용량 증가에 비해 턱없이 부족한 컴퓨팅 자원 때문이다. AI 플랫폼 오픈라우터에 따르면 이달 13일부터 19일까지 집계된 토큰(AI 연산 최소 단위) 사용량은 20조4000억 개에 달한다. 이는 6개월 전(4조6400억 개)과 비교하면 339.7%나 급증한 수치다.
AI 모델에 필수적인 AI 가속기 가격도 중동 전쟁 여파로 치솟고 있다. 엔비디아의 호퍼(H200) 가속기 임대 가격은 지난 20일 기준 시간당 3.43달러로 전쟁 전인 2월 20일(2.2달러) 대비 55.9% 올랐다.
AI 모델 사용량과 인프라 가격이 오르면서 일부 빅테크들은 줄줄이 요금제 개편에 나서고 있다. 앤스로픽은 이달 구독제로 운영하는 기업용 클로드 요금을 사용량에 따라 매기는 ‘종량제’로 변경한다. 월 200달러를 내고 토큰(연산 기본 단위)을 할당받는 체계에서 기본료 월 20달러에 사용량에 따라 요금을 책정하는 방식이다. 코딩 AI 서비스 운영 기업인 윈드서프도 지난달 기존 AI 도구 이용 체계를 손보며 일간·주간 사용 한도를 기준으로 과금하는 방식을 도입했다.
댓글
0