인텔과 삼바노바가 엔비디아 중심의 AI 인프라 시장에 도전장을 내밀었다.
인텔과 삼바노바는 8일(현지시간) 서로 다른 반도체를 결합한 ‘이기종 추론 아키텍처’를 공개하고, 기업용 AI 추론(inference) 시장 공략에 나선다고 밝혔다.
이번 플랫폼은 AI 추론 과정을 단계별로 나눠 각기 다른 하드웨어가 담당하도록 설계된 것이 특징이다. 긴 프롬프트를 처리하고 데이터를 준비하는 ‘프리필(prefill)’ 단계에는 GPU나 AI 가속기가 사용되며, 실제 토큰 생성이 이뤄지는 ‘디코드(decode)’ 단계에는 삼바노바의 SN50 RDU(재구성 데이터플로우 유닛)가 투입된다. 여기에 인텔의 제온(Xeon) 6 프로세서는 에이전트 실행과 시스템 제어, 작업 분배 등을 담당한다.
이처럼 추론 과정을 분리해 최적화하는 방식은 엔비디아의 차세대 플랫폼 전략과 유사하지만, 인텔은 자사 CPU 중심 구조를 통해 차별화를 꾀하고 있다. 특히 AI 에이전트와 코드 실행, 결과 검증 등 복합적인 작업이 요구되는 환경에서 효율성을 높이겠다는 전략이다.
양사는 이번 아키텍처가 다양한 AI 워크로드를 폭넓게 지원할 수 있도록 설계됐다고 강조했다. 특히 코딩 에이전트와 같은 ‘에이전트형 AI’ 작업에서 성능과 비용 효율을 동시에 확보하는 데 초점을 맞췄다.
성능 측면에서도 경쟁력을 강조했다. 삼바노바 내부 테스트에 따르면 제온 6는 Arm 기반 서버 CPU 대비 LLVM 컴파일 속도가 50% 이상 빠르며, 벡터 데이터베이스 작업에서는 경쟁 x86 프로세서인 AMD EPYC 대비 최대 70% 높은 성능을 기록했다. 이를 통해 AI 애플리케이션 개발 주기를 단축할 수 있다는 설명이다.
또 플랫폼은 30킬로와트(kW)급 전력 환경을 지원하는 기존 데이터센터에 그대로 적용할 수 있어, 별도의 대규모 인프라 투자 없이 도입이 가능하다는 점도 강점으로 꼽힌다. 이는 대부분의 기업 데이터센터 환경과 호환되는 수준이다.
이번 솔루션은 2026년 하반기부터 기업, 클라우드 사업자, 국가 단위 AI 프로젝트 등을 대상으로 제공될 예정이다.
인텔은 “미래 워크로드는 다양한 컴퓨팅 자원의 결합을 요구하게 될 것”이라며 “이번 협력은 대규모 환경에서 고객 요구를 충족할 수 있는 고성능·고효율 AI 추론 아키텍처를 제공하기 위한 것”이라고 밝혔다.
박찬 기자 cpark@aitimes.com
댓글
0