SKT, 'CPU+NPU' AI 서버 설루션 개발...AI 데이터센터 경쟁력 강화 나선다
SK텔레콤은 9일 Arm, 리벨리온과 차세대 AI 인프라 혁신을 위한 전략적 파트너십(MOU)을 체결했다고 밝혔다. 이번 협약을 통해 3개사는 Arm이 출시한 ‘Arm AGI CPU’와 리벨리온이 올해 3분기 출시 예정인 ‘리벨카드(RebelCard™)’를 서버에 함께 탑재해 AI 추론 성능을 높이는 솔루션을 공동 개발하고, 이를 SK텔레콤의 AI 데이터센터에서 실증할 계획이다.
이번 협력은 AI 산업의 중심이 AI 모델을 학습하는 ‘학습(Training)’에서 실제 서비스를 제공하는 ‘추론(Inference)’으로 이동하는 흐름을 반영한 것이다. AI 추론은 상대적으로 가벼운 연산을 반복적으로 처리하는 작업으로, 기존 GPU 기반 처리 방식은 높은 전력 소모와 비용 부담이 발생할 수 있다. 이에 따라 추론에 특화된 전용 칩인 NPU가 대안으로 주목받고 있다. CPU와 NPU를 결합하는 구조는 데이터 입출력, 네트워크 통신, 메모리 관리, 작업 스케줄링 등 다양한 범용 처리를 CPU가 담당하고, NPU가 AI 추론 연산을 수행하는 방식으로 시스템 효율을 높일 수 있다.
‘Arm AGI CPU’는 Arm이 데이터센터용으로 선보인 프로세서로 AI 추론 서비스에 최적화된 것이 특징이며, 리벨리온의 ‘리벨카드’는 대규모 AI 추론에 특화된 NPU다. 두 칩을 하나의 서버에 탑재해 CPU와 NPU가 역할을 분담하는 이종 컴퓨팅 구조를 구현하면 전력 효율 향상과 운영 비용 절감이 가능하다는 설명이다.
Arm과 리벨리온은 지난 3월 ‘Arm 에브리웨어’ 행사에서 양사의 칩을 결합해 오픈AI의 언어모델 GPT OSS 120B 기반 에이전틱 AI 서비스를 실시간으로 시연하며 데이터센터 환경에서의 적용 가능성을 제시한 바 있다.
SK텔레콤은 해당 솔루션이 적용된 서버를 자사 AI 데이터센터에 도입해 성능과 안정성을 검증할 계획이다. 또한 해당 서버를 활용해 자체 개발한 AI 파운데이션 모델 ‘에이닷엑스 케이원(A.X K1)’ 운영 방안도 검토 중이다.
SKT 이재신 AI 사업개발 담당은 “추론에 최적화된 인프라와 독자 파운데이션 모델 A.X K1을 결합한 풀 패키지를 제공함으로써 AI 데이터센터 경쟁력을 더욱 강화해 나가겠다”고 말했다.
에디 라미레즈(Eddie Ramirez) Arm 클라우드 AI 사업부 GTM 부사장은 “AI 추론의 급속한 성장은 대규모 배포에 최적화된 새로운 데이터센터 인프라 수요를 촉진하고 있다”며, “SKT, 리벨리온과 같은 파트너는 Arm AGI CPU를 구축하고 AI 추론 인프라를 현대화하는 데 있어 중요한 역할을 하고 있다”고 전했다.
리벨리온 오진욱 CTO는 “리벨리온은 압도적인 성능과 전력 효율을 갖춘 ‘리벨카드’와 풀스택 소프트웨어 경쟁력을 바탕으로 차세대 AI 데이터센터를 지탱하는 핵심 축을 담당하게 됐다”며, “AI 특화 인프라 구축을 위해 각 분야 전문가들이 원팀으로 뭉친 이번 협력은 업계에서도 매우 유의미한 선례가 될 것으로 기대한다”고 강조했다.
댓글
0