[아이티데일리] SK텔레콤과 글로벌 반도체 설계 기업 Arm, 국내 인공지능(AI) 반도체 스타트업 리벨리온이 AI 데이터센터 사업 협력에 나선다.
9일 SK텔레콤(대표이사 CEO 정재헌, SKT) 은 Arm, 리벨리온과 차세대 AI 인프라 혁신을 위한 전략적 파트너십(MOU)을 체결했다. 이번 협약을 통해 3개사는 Arm이 새롭게 출시한 ‘Arm AGI CPU’와 리벨리온이 올해 3분기 출시 예정인 ‘리벨카드(RebelCard)’를 서버에 같이 탑재해 AI 추론 성능을 높일 수 있는 솔루션을 공동 개발하고, 이를 SKT의 AI 데이터센터에서 실증할 계획이다.
AI 추론 서버 솔루션 개발 협력 구조 이미지 (사진=SKT)
AI 추론은 학습과 달리 연산을 가볍고 빠르게 반복적으로 처리하는 작업이다. 그래픽처리장치(GPU)는 추론에 사용될 수 있으나, 과도한 전력을 소모하고 비용이 높다. 이에 업계에서는 추론에 특화된 전용 칩인 신경망처리장치(NPU)에 주목하고 있다.
이러한 NPU에 CPU를 결합하는 이유는 실제 AI 서비스 운영에서 AI 연산 외에도 데이터 입출력, 네트워크 통신, 메모리 관리, 작업 스케줄링 등 다양한 범용 처리가 동시에 필요하기 때문이다. CPU가 시스템의 관제탑 역할을 하며 데이터 흐름과 시스템 운영을 총괄하고, NPU가 AI 추론 연산을 전담하는 이종 컴퓨팅 구조를 통해 성능과 효율을 높일 수 있다.
이번 프로젝트는 ‘Arm AGI CPU’와 ‘리벨카드(RebelCard)’를 서버에 같이 탑재해 AI 추론용 솔루션을 개발하는 게 목표다.
‘Arm AGI CPU’는 Arm이 35년 역사상 처음으로 직접 생산에 나선 데이터센터용 프로세서다. 리벨리온의 ‘리벨카드(RebelCard)’도 대규모 AI 추론에 특화된 NPU다. 이 두 칩을 한 서버안에 탑재해 CPU가 데이터 처리와 시스템 운영 등 범용 연산을 담당하고, NPU가 AI 추론 연산을 전담하는 구조로 설계한다. SKT는 이러한 방식이 대규모 AI 서비스를 운영하는 데이터센터에서 효율적인 서버 아키텍처라고 설명했다.
Arm과 리벨리온은 이미 지난 3월 진행된 ‘Arm 에브리웨어(Arm Everywhere)’ 행사에서 각 사의 칩을 결합해 오픈 AI의 언어모델인 GPT OSS 120B 기반의 에이전틱 AI 서비스를 실시간으로 시연한 바 있다.
SKT는 이 솔루션이 적용된 서버를 자사 AI 데이터센터에 탑재해 성능과 안정성을 검증할 계획이다. 해당 서버로 SKT가 독자 개발한 AI 파운데이션 모델 ‘에이닷엑스 케이원(A.X K1)’을 운영하는 방안도 검토 중이다.
댓글
0