자사 AI DC에 해당 설루션 성능·안정성 검증…독자 파운데이션 모델 운영도 검토
SKT의 가산 AI DC
SK텔레콤, 글로벌 반도체 설계 기업 Arm, 국내 AI 반도체 스타트업 리벨리온이 AI 데이터센터 사업을 위해 뭉쳤다.
SK텔레콤은 Arm, 리벨리온과 차세대 AI 인프라 혁신을 위한 전략적 파트너십(MOU)을 체결했다고 10일 밝혔다.
협약의 골자는 Arm의 ‘Arm AGI CPU’와 리벨리온이 올해 3분기 출시 예정인 추론 전용 칩, 즉 NPU ‘리벨카드(RebelCard)’를 하나의 서버에 탑재해 AI 추론 성능을 높일 수 있는 설루션을 공동 개발, SK텔레콤의 AI데이터센터에서 실증하는 것이다.
이 같은 협력 배경은 AI 산업의 중심축이 ‘학습(Training)’에서 ‘추론(Inference)’으로 빠르게 이동하는 흐름을 반영한다.
AI 인프라의 핵심과제가 종전 대규모 GPU 기반 연산 능력이 핵심이었다면, 이제는 얼마나 적은 전력으로 빠르고 안정적으로 AI 서비스를 제공할 수 있는지가 경쟁력을 좌우하는 요소로 떠오르고 있다.
특히 AI 추론은 24시간 지속적으로 작동해야 하는 특성상 전력 효율과 비용 구조가 직접적인 사업 성과로 이어진다.
GPU는 추론 작업에도 사용할 수 있지만, 마치 대형 트럭으로 택배를 배달하는 것처럼 과도한 전력을 소모하고 비용이 높아 업계에서는 추론에 특화된 전용 칩, 즉 NPU(신경망처리장치)가 새로운 대안으로 부상하고 있다.
이러한 NPU에 CPU를 결합하는 이유는 단순한 성능 향상을 넘어 전력 효율과 운영 비용 절감이라는 실질적인 효과를 동시에 노린 전략이다.
GPU 중심 구조가 범용성은 높지만 과도한 전력 소비라는 한계를 지닌 반면, NPU 기반 추론 구조는 특정 작업에 최적화돼 효율성을 극대화할 수 있기 때문이다.
쉽게 말해 AI 서비스 운영에서는 AI 연산 외에도 데이터 입출력, 네트워크 통신, 메모리 관리, 작업 스케줄링 등 다양한 범용 처리가 동시에 필요한데 CPU가 시스템의 '관제탑' 역할을 하며 데이터 흐름과 시스템 운영을 총괄하고, NPU는 AI 추론 연산을 전담하는 '이종 컴퓨팅(Heterogeneous Computing)' 구조로 시스템의 성능과 효율을 높일 수 있다고 보는 것이다.
‘Arm AGI CPU’는 데이터센터용 프로세서로, AI 추론 서비스에 최적화된 것이 특징이다.
리벨리온의 ‘리벨카드’ 역시 대규모 AI 추론에 특화된 NPU다.
이들 두 개의 칩이 하나의 서버에 탑재돼 결합하면 고성능·저전력 인프라를 구현하는 가장 이상적인 서버 아키텍처라는 게 SKT의 설명이다.
앞서 Arm과 리벨리온은 지난달 진행된 ‘Arm 에브리웨어(Arm Everywhere)’ 행사에서 각 사의 칩을 결합하여 오픈 AI의 언어모델인 GPT OSS 120B 기반의 에이전틱 AI 서비스를 실시간으로 시연하며, 대규모 데이터센터에서의 상용화 가능성을 보여줬다.
SKT는 이번 협력을 통해 개발된 해당 설루션이 적용된 서버를 자사 AI 데이터센터에 탑재해 성능과 안정성을 검증할 계획이다.
동시에 해당 서버로 SK텔레콤이 독자 개발한 AI 파운데이션 모델 에이닷엑스 케이원(A.X K1)을 운영하는 방안도 검토 중이다.
이번 세 회사의 협력은 단순한 기술 협력을 떠나 AI데이터센터 구조 자체를 새롭게 설계하는 시도로 보인다는 해석이 지배적이다.
SK텔레콤은 이번 협력을 통해 저전력·고효율 AI 추론 인프라를 확보하고 AI DC 사업 경쟁력을 한층 높이겠다는 구상이다.
이재신 SKT AI 사업개발 담당은 “추론에 최적화된 인프라와 독자 파운데이션 모델 A.X K1을 결합한 풀 패키지를 제공함으로써 AI 데이터센터 경쟁력을 더욱 강화해 나가겠다”고 말했다.
에디 라미레즈) Arm 클라우드 AI 사업부 GTM 부사장은 “AI 추론의 급속한 성장은 대규모 배포에 최적화된 새로운 데이터센터 인프라 수요를 촉진하고 있다”며, “SKT, 리벨리온과 같은 파트너는 Arm AGI CPU를 구축하고 AI 추론 인프라를 현대화하는 데 있어 중요한 역할을 하고 있다”고 전했다.
오진욱 리벨리온 CTO는 “리벨리온은 압도적인 성능과 전력 효율을 갖춘 ‘리벨카드’와 풀스택 소프트웨어 경쟁력을 바탕으로 차세대 AI 데이터센터를 지탱하는 핵심 축을 담당하게 됐다”며, “AI 특화 인프라 구축을 위해 각 분야 전문가들이 원팀으로 뭉친 이번 협력은 업계에서도 매우 유의미한 선례가 될 것으로 기대한다”고 강조했다.
댓글
0