[통신사] SK텔레콤·LG유플러스, AI 인프라 혁신 가속

▲SK텔레콤

[위클리오늘=이연숙 기자] SK텔레콤, 글로벌 반도체 설계 기업 Arm, 국내 AI 반도체 스타트업 리벨리온이 AI 데이터센터 사업 협력에 나선다.

SK텔레콤은 지난 9일 Arm, 리벨리온과 차세대 AI 인프라 혁신을 위한 전략적 파트너십(MOU)을 체결했다고 10일 밝혔다.

이번 협력의 핵심은 Arm의 데이터센터용 CPU와 리벨리온의 NPU를 결합한 서버 아키텍처다. CPU가 범용 연산과 시스템 운영을 맡고, NPU가 AI 추론을 전담하는 구조로 설계해 전력 소모를 줄이면서도 처리 효율을 높이는 것이 목표다.

AI 추론은 반복적이고 빠른 연산이 요구되는 작업으로, 기존 GPU 기반 방식은 높은 전력 소비와 비용 부담이 단점으로 지적돼 왔다. 이에 따라 추론 특화 칩을 활용한 새로운 인프라 구조가 업계에서 주목받고 있다.

SK텔레콤은 해당 기술을 자사 AI 데이터센터에 적용해 성능과 안정성을 검증할 계획이며, 자체 개발 AI 모델 적용 가능성도 검토 중이다.

▲LG유플러스

LG유플러스 역시 AI 서비스 운영 효율성을 높이기 위한 플랫폼 혁신에 나선다. 아마존웹서비스(AWS)가 주최한 행사에서 AI 개발부터 운영까지 전 과정을 통합한 플랫폼 구축 사례를 공개했다.

이번 플랫폼은 AI 모델의 학습과 배포, 운영 과정 간의 단절을 최소화하는 데 초점을 맞췄다. 데이터를 수집하고 모델을 학습·평가한 뒤 실제 서비스에 적용하는 전 과정을 하나의 흐름으로 연결해 지속적으로 활용 가능한 구조를 구현했다.

특히 클라우드와 기존 온프레미스 환경을 결합한 하이브리드 인프라를 구축해 유연성을 높였다. AWS의 관리형 쿠버네티스 서비스를 기반으로 GPU 자원을 효율적으로 운영할 수 있도록 설계한 점도 특징이다.

이를 통해 필요한 시점에 맞춰 연산 자원을 배분함으로써 GPU 활용도를 높이고, 불필요한 자원 낭비를 줄였다는 설명이다.