SKT, AI 추론 시대 겨냥…CPU·NPU 결합 서버로 데이터센터 판 바꾼다

/사진제공=SK텔레콤

SK텔레콤이 AI 데이터센터 경쟁력 강화를 위해 CPU와 NPU를 결합한 차세대 서버 설루션 개발에 나섰다.

SK텔레콤(대표 정재헌)은 글로벌 반도체 기업 Arm과 국내 AI 반도체 기업 리벨리온과 함께 AI 인프라 혁신을 위한 전략적 협력에 나선다고 밝혔다.

이번 협력은 AI 산업이 ‘학습’ 중심에서 ‘추론’ 중심으로 빠르게 전환되는 흐름에 대응하기 위한 것이다.

새로운 서버 구조는 Arm의 데이터센터용 CPU와 리벨리온의 NPU를 결합한 형태로, CPU는 데이터 처리와 시스템 운영을 담당하고 NPU는 AI 추론 연산을 전담한다.

이를 통해 전력 효율을 높이고 운영 비용을 절감하는 ‘이종 컴퓨팅’ 기반 아키텍처를 구현한다.

특히 해당 설루션은 대규모 AI 서비스에 필요한 고속 처리와 저전력 운영을 동시에 달성할 수 있는 것이 특징이다. 기존 GPU 중심 구조 대비 효율성을 높여 데이터센터 운영 비용 절감 효과도 기대된다.

SK텔레콤은 이 설루션을 자사 AI 데이터센터에 적용해 성능과 안정성을 검증하고, 자체 AI 모델 운영에도 활용하는 방안을 검토 중이다.

업계에서는 이번 협력이 AI 인프라 경쟁의 핵심 축을 ‘추론 최적화’로 전환하는 신호탄이 될 것으로 보고 있다.