'CPU+NPU' 연합군으로 시장 점유율 확대
비용·전력 효율 앞세워 인프라 경쟁력 확보
상용 검증·소프트웨어 생태계 확대가 성패 변수
인공지능(AI) 추론 서버 설루션 개발 협력 구조. /2026.4.10 SKT
인공지능(AI) 인프라의 무게중심이 초거대 모델 학습에서 실제 서비스 운영을 위한 추론으로 옮겨가면서, SK텔레콤이 Arm, 리벨리온과 손잡고 저전력·고효율 추론 서버 시장 공략에 나섰다.
엔비디아의 GPU(그래픽처리장치) 중심 구도에 맞서 CPU(중앙처리장치)와 NPU(신경망처리장치)를 결합한 대안을 앞세워 AI 데이터센터 경쟁력을 키우겠다는 전략이다.
SK텔레콤은 10일 Arm, 리벨리온과 차세대 AI 인프라 혁신을 위한 전략적 파트너십(MOU)을 체결하고 CPU·NPU 결합 기반의 AI 추론 서버 설루션을 공동 개발한다고 밝혔다.
이번 협력의 핵심은 Arm의 데이터센터용 'Arm AGI CPU'와 리벨리온이 올해 3분기 출시 예정인 AI 추론 특화 NPU '리벨카드(RebelCard)'를 하나의 서버에 함께 탑재하는 것이다. CPU는 데이터 입출력, 네트워크 통신, 메모리 관리, 작업 스케줄링 등 범용 연산을 맡고, NPU는 AI 추론 연산을 전담하는 구조다.
SK텔레콤은 AI 산업이 모델을 만드는 학습보다 이미 만들어진 모델을 실제 서비스에 투입하는 추론 단계로 빠르게 이동하고 있다는 점에 주목했다. 추론은 24시간 연속 구동되는 경우가 많아 전력 효율과 운영비 절감이 곧 사업 경쟁력으로 이어진다.
기존 GPU는 원래 이미지 처리와 대규모 병렬 연산에 강한 반도체로, AI 학습과 추론 모두에 활용된다. 다만 추론 환경에서는 전력 소모와 비용 부담이 크다는 지적이 꾸준히 제기돼 왔다.
이에 따라 업계에서는 상대적으로 가벼운 AI 연산을 빠르게 반복 처리하는 데 적합한 NPU가 대안으로 부상하고 있다. 여기에 CPU를 결합하면 시스템 제어와 AI 연산을 나눠 처리해 서버 효율을 높일 수 있다는 게 SK텔레콤의 설명이다.
특히 Arm AGI CPU는 Arm이 35년 역사상 처음으로 직접 생산에 나선 데이터센터용 프로세서이고, 리벨카드는 대규모 AI 추론에 특화된 칩이라는 점에서 양측 조합은 추론형 AI 데이터센터에 최적화된 구조로 평가된다.
Arm과 리벨리온은 지난 3월 열린 'Arm 에브리웨어' 행사에서 각 사의 칩을 결합해 오픈AI의 언어모델 GPT OSS 120B 기반 에이전틱 AI 서비스를 실시간으로 시연한 바 있다. SK텔레콤은 이를 토대로 해당 설루션의 상용화 가능성을 자사 AI 데이터센터에서 검증하겠다는 계획이다.
3개사는 공동 개발한 설루션을 SK텔레콤의 AI 데이터센터에 실제 탑재해 성능과 안정성을 검증할 계획이다. SK텔레콤이 독자 개발한 AI 파운데이션 모델 '에이닷엑스 케이원(A.X K1)'을 해당 서버에서 운영하는 방안도 검토하고 있다. 인프라와 모델을 결합한 패키지 경쟁력을 확보하겠다는 구상이다.
이 같은 움직임은 SK텔레콤이 통신 중심 사업자에서 AI 인프라·데이터센터 사업자로 무게를 옮기고 있음을 보여주는 대목이기도 하다. 단순히 칩을 도입하는 수준을 넘어 데이터센터 실증과 자체 모델 운영까지 연결해 풀스택 AI 사업자 전략을 강화하겠다는 뜻으로 읽힌다.
이재신 SK텔레콤 AI 사업개발 담당은 "추론에 최적화된 인프라와 독자 파운데이션 모델 A.X K1을 결합한 풀 패키지를 제공함으로써 AI 데이터센터 경쟁력을 더욱 강화해 나가겠다"고 말했다.
다만 엔비디아 중심 질서에 단기간에 균열을 내기는 쉽지 않을 것으로 보인다. 현재 AI 인프라는 GPU 성능뿐 아니라 CUDA를 중심으로 한 소프트웨어 생태계와 개발 환경까지 엔비디아 중심으로 짜여 있기 때문이다.
결국 실제 데이터센터에서 비용 절감 효과와 성능 안정성을 입증하고, 개발자와 고객이 활용할 수 있는 소프트웨어 환경을 얼마나 빠르게 넓히느냐가 관건이 될 전망이다.
댓글
0