SKT타워 전경 [자료사진=SK텔레콤]
SK텔레콤이 ARM, 리벨리온과 차세대 인공지능(AI) 인프라 혁신을 위한 전략적 파트너십을 체결하고 AI데이터센터(AI DC) 사업 협력에 나선다고 10일 밝혔다.
이번 협약을 통해 3사는 ARM이 새로 출시한 ‘ARM AGI CPU’와 리벨리온이 3분기 출시 예정인 ‘리벨카드(RebelCard)’를 단일 서버에 탑재해 AI 추론 성능을 높일 수 있는 솔루션을 공동 개발하고 SK텔레콤의 AI데이터센터에서 실증하기로 했다.
AI 산업이 학습(Training)에서 추론(Inference)으로 전환되며 AI인프라 핵심 과제도 막대한 연산 능력보다는 얼마나 적은 전력으로 얼마나 빠르고 저렴하게 AI서비스를 제공할 수 있느냐로 변하고 있다. 추론은 전력 효율이 곧 비용 경쟁력과 직결된다.
추론은 학습과 달리 상대적으로 가벼운 연산을 빠르고 반복적으로 처리하는 작업이다. GPU는 이런 추론 작업에도 사용할 수 있지만 과도한 전력을 소모하고 비용이 높아 추론에 특화된 전용 신경망처리장치(NPU)가 새로운 대안으로 부상하고 있다.
NPU에 CPU를 결합하는 이유도 명확하다. 실제 AI서비스 운영에서는 연산 외에도 데이터 입출력, 네트워크 통신, 메모리 관리, 작업 스케줄링 등 다양한 범용 처리가 동시에 필요하다.
CPU가 시스템의 관제탑 역할을 하며 데이터 흐름과 시스템 운영을 총괄하고, NPU가 추론 연산을 전담하는 ‘이종컴퓨팅(Heterogeneous Computing)’ 구조는 시스템의 성능과 효율을 높일 수 있다.
ARM AGI CPU는 처음으로 직접 생산에 나선 데이터센터용 프로세서로 AI 추론 서비스에 최적화된 것이 특징이다. 리벨리온의 리벨카드도 대규모 AI 추론에 특화된 NPU다.
SK텔레콤은 “이러한 방식이 대규모 AI서비스를 운영하는 데이터센터에서 효율적인 서버 아키텍처”라고 설명했다.
SK텔레콤은 해당 솔루션이 적용된 서버를 자사 AI데이터센터에 탑재해 성능과 안정성을 검증할 계획이다. 이 서버로 SK텔레콤이 독자 개발한 AI 파운데이션 모델 에이닷엑스 케이원(A.X K1)을 운영하는 방안도 검토 중이다.
SK텔레콤 이재신 AI 사업개발 담당은 “추론에 최적화된 인프라와 독자 파운데이션 모델 A.X K1을 결합한 풀 패키지를 제공함으로써 AI데이터센터 경쟁력을 강화해 나가겠다”고 말했다.
에디 라미레즈 ARM 클라우드 AI 사업부 GTM 부사장은 “AI 추론의 급속한 성장은 대규모 배포에 최적화된 새로운 데이터센터 인프라 수요를 촉진하고 있다”며, “3사는 ARM AGI CPU를 구축하고 AI 추론 인프라를 현대화하는 데 있어 중요한 역할을 하고 있다”고 전했다.
리벨리온 오진욱 최고기술책임자(CTO)는 “리벨카드와 풀스택 소프트웨어 경쟁력을 바탕으로 차세대 AI데이터센터를 지탱하는 핵심 축을 담당하게 됐다”며, “AI 특화 인프라 구축을 위해 각 분야 전문가들이 원팀으로 뭉친 이번 협력은 업계에서도 유의미한 선례가 될 것으로 기대한다”고 강조했다.
댓글
0