SKT-Arm-리벨리온, 차세대 AI 인프라 혁신 위해 전략적 파트너십(MOU) 체결
SK텔레콤(SKT)이 Arm, 리벨리온과 손잡고 차세대 AI 인프라 구축에 나선다. 세 회사는 9일 전략적 협력 양해각서(MOU)를 체결하고, AI 데이터센터 환경에 최적화된 서버 아키텍처를 공동 개발하기로 했다.
이번 협력은 AI 산업의 흐름이 모델 개발 단계인 ‘학습(Training)’에서 실제 서비스 제공 단계인 ‘추론(Inference)’으로 빠르게 이동하고 있다는 판단에 기반한다. 이에 따라 인프라 경쟁력 역시 단순한 연산 성능을 넘어, 얼마나 적은 전력으로 안정적이고 저렴하게 서비스를 제공할 수 있는지가 핵심 요소로 부상하고 있다. 특히 추론 작업은 연중무휴로 지속되기 때문에 전력 효율이 곧 운영 비용과 직결된다.
이 같은 환경 변화 속에서 기존 GPU 중심 구조의 한계도 지적된다. GPU는 다양한 연산을 처리할 수 있는 범용성을 갖고 있지만, 상대적으로 가벼운 추론 작업까지 수행할 경우 전력 소모와 비용 부담이 커질 수밖에 있다. 이에 업계에서는 추론에 특화된 NPU(신경망처리장치)가 새로운 대안으로 주목받고 있다.
세 회사는 CPU와 NPU를 결합한 이른바 ‘이종 컴퓨팅’ 구조를 통해 이러한 문제를 해결한다는 구상이다. Arm이 새롭게 선보인 데이터센터용 ‘AGI CPU’와 리벨리온이 개발 중인 AI 추론용 칩 ‘리벨카드’를 하나의 서버에 함께 탑재해, CPU는 데이터 입출력과 시스템 운영을 맡고 NPU는 AI 연산을 전담하는 방식이다. 이를 통해 전력 효율을 높이는 동시에 운영 비용을 낮출 수 있다는 설명이다.
이와 관련해 Arm과 리벨리온은 지난 3월 열린 ‘Arm Everywhere’ 행사에서 양사의 칩을 결합한 서버를 활용해 대규모 언어모델 기반 서비스를 실시간으로 구현하며 상용화 가능성을 시연한 바 있다.
SKT는 이번 협력을 통해 개발되는 서버를 자사 AI 데이터센터에 적용해 성능과 안정성을 검증할 계획이다. 아울러 해당 인프라에서 자사가 개발한 AI 파운데이션 모델 ‘A.X K1’을 구동하는 방안도 검토하고 있다. 이를 통해 저전력 기반의 AI 추론 환경을 구축하고, 데이터센터 사업 경쟁력을 한층 끌어올린다는 전략이다.
SKT 관계자는 “추론 중심의 인프라와 자체 AI 모델을 결합한 통합 패키지를 통해 AI 데이터센터 경쟁력을 강화해 나갈 것”이라고 밝혔다. Arm 측은 “AI 추론 수요가 빠르게 증가하면서 데이터센터 인프라도 이에 맞는 구조로 재편되고 있다”며 “이번 협력은 이러한 변화에 대응하는 중요한 사례”라고 설명했다. 리벨리온 역시 “고성능·고효율 AI 반도체와 소프트웨어 역량을 기반으로 차세대 데이터센터 구축에 기여할 것”이라고 강조했다.
댓글
0