CPU·NPU 결합 AI 추론 서버 설루션 공동 개발
저전력·고효율·저비용 달성 가능해
SK텔레콤이 글로벌 반도체 설계 기업 Arm, 국내 AI 반도체 스타트업 리벨리온과 9일 전략적 파트너십을 체결하고 차세대 AI 데이터센터 구축에 나선다고 10일 밝혔다.
이번 협약의 핵심은 Arm의 'AGI CPU'와 리벨리온이 올해 3분기 출시 예정인 'RebelCard™(리벨카드)'를 하나의 서버에 함께 탑재하는 것이다. CPU가 데이터 입출력·네트워크 통신·메모리 관리 등 범용 연산을 맡고, AI 추론 전용 칩인 NPU가 AI 연산을 전담하는 '이종 컴퓨팅' 구조로 성능과 전력 효율을 동시에 높인다는 구상이다. 개발된 솔루션은 SK텔레콤의 AI 데이터센터에서 실증할 계획이다.
이번 협력은 AI 산업의 무게중심이 모델 '학습'에서 실서비스 '추론'으로 이동하는 흐름을 반영한다. 추론은 365일 중단 없이 작동해야 하는 만큼 전력 효율이 곧 운영 비용 경쟁력과 직결된다. GPU도 추론에 활용할 수 있지만 전력 소모가 크고 비용이 높아, 업계에서는 추론 전용 NPU가 대안으로 부상하고 있다.
Arm AGI CPU는 Arm이 35년 역사상 처음으로 직접 생산에 나선 데이터센터용 프로세서다. 앞서 Arm과 리벨리온은 지난 3월 'Arm Everywhere' 행사에서 두 칩을 결합해 오픈AI의 언어모델 GPT OSS 120B 기반 에이전틱 AI 서비스를 실시간 시연한 바 있다.
SKT는 해당 서버로 자사 AI 파운데이션 모델 'A.X K1'을 운영하는 방안도 검토 중이다.
SKT 이재신 AI 사업개발 담당은 "추론에 최적화된 인프라와 독자 파운데이션 모델 A.X K1을 결합한 풀 패키지를 제공함으로써 AI 데이터센터 경쟁력을 더욱 강화해 나가겠다"고 말했다.
댓글
0