‘CPU·NPU’ 결합한 新 연산 기술 만들어
자사 AIDC서 성능·안정성 검증...A.X K1 운영 검토
전력·비용 절감 및 GPU 의존도 완화 기대
SK텔레콤 가산 데이터센터에 AI 서버가 가동하고 있다. 사진제공=SK텔레콤
SK텔레콤(017670)
이 영국 반도체 설계기업 ‘암’(Arm), 국내 인공지능(AI) 반도체 스타트업 리벨리온과 손잡고 차세대 AI 서버 솔루션을 개발한다. 엔비디아 그래픽처리장치(GPU) 의존도를 낮추기 위해 중앙처리장치(CPU)와 신경망처리장치(NPU)를 결합한 새로운 데이터센터용 연산 기술을 만들겠다는 것이다.
SK텔레콤은 암, 리벨리온과 차세대 AI 인프라 혁신을 위한 전략적 파트너십(MOU)을 체결했다고 9일 발표했다. 이번 협약을 통해 암이 새롭게 선보인 ‘암 AGI CPU’와 리벨리온이 올해 3분기 출시 예정인 ‘리벨카드(RebelCard)’를 서버에 함께 탑재하는 방식의 AI 추론 최적화 솔루션이 공동 개발된다. SK텔레콤은 자사 AI 데이터센터에서 실증할 계획이다.
SK텔레콤-암-리벨리온 협력 구조. 사진제공=SK텔레콤
암 AGI CPU는 암이 35년 역사상 처음으로 직접 생산에 나선 데이터센터용 프로세서다. AI 추론 서비스에 최적화된 것이 특징이다. 리벨리온 리벨카드 또한 대규모 AI 추론에 특화된 NPU다. 두 칩을 하나의 서버에 결합하면 CPU는 데이터 처리와 시스템 운영 등 범용 연산을 맡고 NPU는 AI 추론 연산을 전담하는 구조다. GPU 대비 전력 효율을 높이고 운영 비용을 절감할 수 있다.
이번 협력은 AI 산업의 중심축이 모델 ‘학습’에서 실제 서비스 제공 단계인 ‘추론’으로 이동하는 흐름을 반영한 것이다. AI 인프라도 대규모 연산 능력 확보에서 벗어나 얼마나 적은 전력으로 빠르고 효율적으로 서비스를 제공할 수 있는지가 핵심 경쟁력으로 떠오르고 있다.
SK텔레콤은 해당 솔루션이 적용된 서버를 자사 AI 데이터센터에 도입해 성능과 안정성을 검증할 예정이다. 자체 개발한 AI 파운데이션 모델 ‘에이닷엑스 케이원(A.X K1)’을 해당 인프라에서 운영하는 방안도 검토 중이다. 이재신 SK텔레콤 AI사업개발담당은 “추론에 최적화된 인프라와 독자 파운데이션 모델을 결합한 풀 패키지를 제공함으로써 AI 데이터센터 경쟁력을 더욱 강화해 나가겠다”고 말했다.
댓글
0