SK텔레콤이 글로벌 반도체 설계 기업 Arm, 국내 인공지능(AI) 반도체 스타트업 리벨리온과 손잡고 AI 패러다임 변화에 따른 데이터센터 경쟁력 강화에 나선다.
SK텔레콤은 9일 Arm, 리벨리온과 차세대 AI 인프라 혁신을 위한 전략적 파트너십(MOU)을 체결했다고 밝혔다. 이번 협약을 통해 3개사는 Arm이 새롭게 출시한 ‘Arm AGI CPU’와 리벨리온이 올해 3분기 출시 예정인 ‘리벨카드(RebelCard™)’를 서버에 같이 탑재하여 AI 추론 성능을 높일 수 있는 설루션을 공동 개발하고 SK텔레콤의 AI데이터센터에서 실증하기로 했다.
3사의 협력은 AI산업이 AI모델을 만드는 '학습'에서 실제 서비스를 제공하는 '추론'으로 무게 중심을 이동한 데 따른 대응이다. 추론에서 가장 중요한 것은 연산 능력이 아닌 얼마나 빠르게 서비스를 제공하는가에 있다. 특히 추론은 365일 쉬지 않고 작동해야 하기 때문에 전력 효율이 무엇보다 중요하다. 업계에서 추론에 특화된 전용 칩, 즉 NPU(Neural Processing Unit, 신경망처리장치)에 눈독을 들이고 있는 것도 이 때문이다.
‘Arm AGI CPU’는 Arm이 35년 역사상 처음으로 직접 생산에 나선 데이터센터용 프로세서로, AI 추론 서비스에 최적화된 것이 특징이다. 리벨리온의 ‘리벨카드(RebelCard™)’도 대규모 AI 추론에 특화된 NPU다. 이 두 칩을 한 서버안에 탑재해 CPU가 데이터 처리와 시스템 운영 등 범용 연산을 담당하고, NPU가 AI 추론 연산을 전담하면 전력 효율을 높이고 운영 비용을 줄일 수 있다.
Arm과 리벨리온은 이미 지난 3월 진행된 ‘Arm 에브리웨어(Arm Everywhere)’ 행사에서 각 사의 칩을 결합하여 오픈 AI의 언어모델인 GPT OSS 120B 기반의 에이전틱 AI 서비스를 실시간으로 시연하며, 대규모 데이터센터에서의 상용화 가능성을 보여줬다.
SKT는 해당 설루션이 적용된 서버를 자사 AI 데이터센터에 탑재해 성능과 안정성을 검증할 계획이다. 특히, 해당 서버로 SK텔레콤이 독자 개발한 AI 파운데이션 모델 에이닷엑스 케이원(A.X K1)을 운영하는 방안도 검토 중이다. SK텔레콤은 이번 협력을 통해 저전력·고효율 AI 추론 인프라를 확보하고 AI DC 사업 경쟁력을 한층 높일 계획이다.
이재신 SKT AI 사업개발 담당은 "추론에 최적화된 인프라와 독자 파운데이션 모델을 결합한 풀 패키지를 제공함으로써 AI 데이터센터 경쟁력을 더욱 강화할 것"이라고 말했다.
댓글
0