'CPU+NPU' AI 서버 설루션 개발
AI 추론 서버 설루션 개발 협력 구조. 사진=SK텔레콤 제공
매일일보 = 안종열 기자
|
SK텔레콤이 인공지능(AI) 데이터센터 경쟁력 강화 나선다
SK텔레콤은 지난 9일 Arm, 리벨리온과 차세대 AI 인프라 혁신을 위한 업무협약(MOU)을 체결했다고 10일 밝혔다.
이들은 Arm의 신규 데이터센터용 프로세서 ‘Arm AGI CPU’와 리벨리온이 올해 3분기 출시 예정인 AI 추론용 NPU ‘리벨카드’를 결합한 서버 솔루션을 공동 개발한다. 해당 기술은 SK텔레콤의 AI 데이터센터에 적용돼 성능과 안정성을 검증할 계획이다.
최근 AI 산업은 모델 학습보다 실제 서비스 단계인 ‘추론’의 중요성이 커지고 있다. 추론은 24시간 지속적으로 작동해야 하는 만큼 전력 효율과 비용 절감이 핵심 경쟁 요소로 부상했다.
이에 따라 업계에서는 GPU 중심 구조에서 벗어나, 전력 효율이 높은 NPU 기반 인프라가 대안으로 주목받고 있다. 특히 CPU와 NPU를 결합한 ‘이종 컴퓨팅’ 방식은 시스템 운영과 AI 연산을 분리해 효율을 극대화할 수 있는 구조로 평가된다.
이번 협력에서 CPU는 데이터 처리와 시스템 제어를 담당하고, NPU는 AI 추론 연산을 맡는 역할 분담이 이뤄진다. 이를 통해 서버 전력 소비를 줄이고 운영 비용을 낮출 수 있을 것으로 기대된다.
Arm의 ‘AGI CPU’는 데이터센터용으로 직접 설계된 첫 제품으로, AI 추론 환경에 최적화된 것이 특징이다. 리벨리온의 ‘리벨카드’ 역시 대규모 AI 추론 처리에 특화된 칩이다.
양사는 이미 지난 3월 ‘Arm 에브리웨어’ 행사에서 해당 기술을 활용해 대형 언어모델 기반 AI 서비스를 시연하며 상용화 가능성을 입증한 바 있다.
SK텔레콤은 향후 이 솔루션을 자사 데이터센터에 도입해 자체 AI 모델 ‘A.X K1’ 운영에도 적용하는 방안을 검토 중이다. 회사는 이번 협력을 통해 저전력·고효율 AI 인프라를 확보하고 AI 데이터센터 사업 경쟁력을 강화한다는 계획이다.
이재신 SK텔레콤 AI 사업개발 담당은 “추론에 최적화된 인프라와 독자 파운데이션 모델 A.X K1을 결합한 풀 패키지를 제공함으로써 AI 데이터센터 경쟁력을 더욱 강화해 나가겠다”고 말했다.
댓글
0