Arm CPU와 리벨리온 NPU 한 서버 탑재…대규모 AI 서비스 최적화
SK브로드밴드 가산 AI DC에 구축된 B200 클러스터 ‘해인’의 모습 / 사진제공=SK텔레콤
[서울이코노미뉴스 박희만 기자] SK텔레콤이 영국 반도체 설계 기업 Arm, 국내 AI 반도체 스타트업 리벨리온과 손잡고 인공지능(AI) 데이터센터용 차세대 추론 서버 개발에 나선다.
SK텔레콤은 10일 Arm, 리벨리온과 전략적 업무협약(MOU)을 체결하고 Arm의 데이터센터용 CPU ‘Arm AGI CPU’와 리벨리온의 추론형 신경망처리장치(NPU) ‘리벨카드’를 결합한 서버 솔루션을 공동 개발한다고 밝혔다.
완성된 서버는 SK텔레콤의 AI 데이터센터에 실제 적용돼 성능과 안정성 검증을 거칠 예정이다.
이번 협력은 AI 연산 구조 변화에 대응하기 위한 시도라는 점에서 주목된다.
대규모 언어모델 경쟁 초기에는 학습 연산이 핵심이었지만, 생성형 AI 서비스가 확산되면서 실제 서비스 단계인 ‘추론’ 연산이 데이터센터 운영의 핵심 부담으로 떠오르고 있기 때문이다.
새롭게 개발되는 서버는 중앙처리장치(CPU)와 NPU를 결합한 이중 컴퓨팅 구조가 특징이다.
CPU는 데이터 입출력, 메모리 관리, 네트워크 처리, 작업 스케줄링 등 범용 연산을 담당하고, NPU는 AI 추론 연산을 전담하는 방식이다.
업계에서는 이러한 구조가 향후 AI 데이터센터의 표준 아키텍처로 자리 잡을 가능성이 높다고 보고 있다. 생성형 AI 서비스는 24시간 상시 구동되는 특성상 전력 소비와 총소유비용(TCO)이 핵심 경쟁력이 되기 때문이다.
핵심 부품인 Arm AGI CPU는 Arm이 창사 35년 만에 처음으로 직접 선보이는 데이터센터용 중앙처리장치다.
리벨리온의 NPU ‘리벨카드’는 올해 3분기 출시가 예정돼 있다.
AI 추론 서버 설루션 개발 협력 구조 / 연합뉴스
양사는 이미 기술 가능성을 일부 확인한 상태다. Arm과 리벨리온은 지난 3월 개최된 ‘Arm Everywhere’ 행사에서 두 칩을 결합해 GPT OSS 120B 기반 에이전틱 AI 서비스를 실시간 시연한 바 있다.
이번 협력은 이를 실제 데이터센터 환경에서 상용화 단계로 검증하는 성격이 강하다.
SK텔레콤은 여기에 자사 AI 파운데이션 모델인 ‘A.X K1’을 해당 서버에서 구동하는 방안도 검토하고 있다. 칩, 서버 인프라, 자체 AI 모델을 하나의 생태계로 묶어 AI 데이터센터 경쟁력을 강화하려는 전략이다.
업계에서는 이번 협력이 통신사 중심 AI 인프라 전략의 변화 신호로도 해석하고 있다.
기존 AI 데이터센터가 그래픽처리장치(GPU) 기반 연산에 크게 의존해 왔다면, 앞으로는 목적별 특화 반도체를 결합한 하이브리드 구조가 확대될 가능성이 있다는 것이다.
SK텔레콤은 이번 협력을 통해 AI 데이터센터 인프라 경쟁력을 높이고, 향후 AI 서비스 플랫폼 사업으로 확장할 기반을 마련한다는 계획이다.
업계에서는 AI 모델, 반도체, 데이터센터 인프라를 결합한 ‘풀스택 전략’ 경쟁이 통신·클라우드 시장에서도 본격화될 것으로 보고 있다.
댓글
0