온프레미스·클라우드 연계한 하이브리드 인프라 사례 공개
AI 개발·평가·배포·운영 잇는 AI-DLC 체계 강화
GPU 자원 유연 배분으로 효율성·안정성 동시 제고
아마존웹서비스(AWS)가 주최한 '2026 모던 에이젠틱 어플리케이션즈 데이'(Modern Agentic Applications Day)에서 허설 LG유플러스 MLOps개발팀 기술책임이 발표하고 있다. /2026.4.10 LGU+
생성형 인공지능(AI) 경쟁이 모델 개발을 넘어 실제 서비스의 안정적 운영 단계로 옮겨가는 가운데 LG유플러스가 아마존웹서비스(AWS) 기반 인프라 운영 자동화 사례를 공개했다.
온프레미스(사내 구축형) 중심 개발 환경을 클라우드(인터넷 기반 컴퓨팅)와 연계한 하이브리드 구조로 바꿔 AI 개발부터 배포, 운영까지 전 과정을 하나로 잇고 서비스의 끊김을 줄이겠다는 전략이다.
LG유플러스는 10일 AWS가 주최한 ‘2026 모던 에이전틱 애플리케이션 데이’에서 생성형 AI 서비스의 안정적 운영을 위한 플랫폼 구축 사례를 공개했다고 밝혔다.
회사는 이번 행사에서 생성형 AI와 에이전트 기술을 활용한 인프라 운영 자동화를 주제로, 기존 온프레미스 중심의 AI 개발 환경을 클라우드와 연계한 구조로 전환한 경험을 공유했다.
이번 플랫폼의 핵심은 AI 모델의 학습과 평가, 배포, 운영이 분리돼 발생하던 반복 작업과 전환 지연을 줄인 데 있다.
LG유플러스는 데이터 수집부터 학습, 평가, 배포, 운영까지 전 과정을 하나의 파이프라인으로 연결해 AI를 언제든 서비스에 적용할 수 있는 상태로 유지하는 데 초점을 맞췄다. 개발자와 운영자가 보다 일관된 환경에서 AI를 다룰 수 있도록 설계한 점도 특징이다.
이를 위해 LG유플러스는 쿠버네티스(애플리케이션을 관리·배포·확장할 수 있는 오픈소스 플랫폼) 기반 관리형 서비스인 아마존 EKS를 토대로 하이브리드 인프라 아키텍처를 구축했다.
자체 보유한 GPU(그래픽처리장치) 인프라를 EKS 클러스터의 하이브리드 노드로 통합하고, 클러스터 전체를 제어하는 영역은 AWS 완전관리형 서비스로 운영해 플랫폼 관리 부담을 낮췄다는 설명이다. 회사는 이를 통해 인프라 운영보다 서비스 품질 개선과 안정성 확보에 더 집중할 수 있는 환경을 마련했다고 밝혔다.
GPU 활용 방식도 손봤다. 기존처럼 장비 단위로 자원을 고정 배분하는 대신 수요에 따라 유연하게 할당하는 구조를 도입해 유휴 시간을 줄이고 활용 효율을 높였다. AI 모델 학습과 추론, 서비스 운영이 동시에 늘어나는 환경에서 자원 효율을 높이기 위한 조치로 풀이된다.
LG유플러스는 이번 구축 사례를 AI-DLC(AI 주도 개발 라이프사이클) 역량 강화의 연장선으로 보고 있다. 데이터 수집부터 모델 개발, 배포·운영, GPU 운영까지 전 과정을 하나의 체계로 묶어 AX(AI 전환) 서비스를 더 빠르게 내놓고 품질과 운영 안정성을 함께 끌어올리겠다는 것이다.
다만 이번 발표는 플랫폼 구조와 운영 방향을 제시하는 데 무게가 실렸다. 실제 상용 서비스 확대 과정에서 배포 시간 단축, 장애 감소, 비용 절감, GPU 활용률 개선 같은 정량 성과가 어느 정도 입증될지는 향후 과제로 남는다.
AI 운영 자동화가 기술 시연을 넘어 사업 성과로 이어지려면 안정성과 효율성을 수치로 보여주는 후속 검증이 필요하다.
통신업계 전반에선 인공지능(AI) 운영 자동화 고도화가 빨라지고 있다. 경쟁의 초점도 단순히 AI 모델을 개발하는 데서 그치지 않고, 이를 실제 서비스와 네트워크 운영 현장에 안정적으로 올려 끊김 없이 관리하는 체계를 구축하는 쪽으로 옮겨가는 모습이다.
LG유플러스는 AI 개발·배포·운영을 하나의 파이프라인으로 묶는 AI-DLC와 하이브리드 플랫폼 구축에 나선 데 이어, 에이아이온(AION) 기반 자율 운영 네트워크, 디지털 트윈, 유봇(U-BOT) 등을 통해 장애 예측과 선제 대응 역량을 높이고 있다.
SK텔레콤은 대규모 GPU 클러스터와 가상화 기술을 통해 자원 활용률을 높이고 AI 학습·추론 인프라를 유연하게 운영하는 데 힘을 싣고 있다.
KT도 자동화 운영 플랫폼과 통합 데이터 플랫폼을 바탕으로 장애 예측·분류와 MLOps 체계 정비를 추진하고 있다.
통신사들의 AI 경쟁이 ‘무슨 모델을 만들었느냐’보다 ‘그 모델과 서비스를 얼마나 안정적으로 운영하느냐’로 옮겨가고 있다.
댓글
0