사이버 보안 및 클라우드 기업 아카마이테크놀로지스(아카마이코리아)는 18일 업계 최초 글로벌 규모 NVIDIA® AI GridReference Design 구현을 공개했다.
이번 발표는 작년 말 선보인 아카마이인퍼런스 클라우드(Akamai Inference Cloud)의 중요한 발전 단계이다. AI Grid를 최초로 운영화한 아카마이는 수천 개의 NVIDIA RTX PRO 6000 Blackwell 서버 에디션 GPU를 도입하여, 기업이 로컬 컴퓨팅의 응답성과 글로벌 웹 규모를 갖춘 에이전틱 AI 및 피지컬 AI실행 플랫폼을 제공한다.
아담 카론(Adam Karon) 아카마이 클라우드 테크놀로지 그룹 COO 겸 총괄 매니저는 “아카마이의 AI Grid 지능형 오케스트레이션은 AI 팩토리가 4,400개 엣지에서 적시에 적정 비용으로 AI 워크로드를 라우팅하는 동일한 분산 아키텍처를 활용해 추론을 외부로 확장할 수 있는 길을 제시한다”고 밝혔다.
AI Grid의 핵심은 AI 요청에 대해 실시간 브로커 역할을 하는 지능형 오케스트레이터이다. 아카마이의 애플리케이션 성능 최적화에 대한 전문성을 AI에 적용한 이 워크로드 인식 컨트롤 플레인(control plane)은 토큰당 비용, 첫 토큰 응답 시간, 처리량을 획기적으로 개선함으로써 '토크노믹스'를 최적화한다.
아카마이의 주요 차별점은 고객이 거대한 글로벌 엣지풋 프린트를 통해 미세 조정(fine-tuned) 또는 희소화(sparsified) 모델에 접근할 수 있다는 점이다.
아카마이는NVIDIA AI 엔터프라이즈와 Blackwell 아키텍처, NVIDIABluefieldDPU (Data Processing Units)를 통해 하드웨어 가속 네트워킹 및 보안을 갖춰 엣지와 코어 전반의 복잡한 SLA를 관리할 수 있다.
한편, 아카마이인퍼런스 클라우드는 자격을 갖춘 기업 고객을 대상으로 즉시 이용 가능하며제품 관련자세한 정보는 공식 웹사이트에서 확인 가능하다. 아카마이는 미국 산호세 컨벤션 센터에서 3월 19일까지 열리는 엔비디아 GTC 2026 부스 621에서 데모를 진행할 예정이다.
비지니스코리아 김은진 기자 ()
김은진 기자
다른기사 보기
저작권자 © Businesskorea
댓글
0