사진 = 허설 LG유플러스 MLOps개발팀 기술책임이 발표하고 있는 모습.
[잡포스트] 전진홍 기자 = LG유플러스가 인공지능(AI) 서비스 운영 혁신 사례를 글로벌 무대에서 공개했다. LG유플러스는 아마존웹서비스(AWS)가 주최한 ‘2026 Modern Agentic Applications Day’에서 AI 모델을 실제 서비스로 안정적으로 운영하기 위한 플랫폼 구축 사례를 발표했다.
이번 발표는 생성형 AI와 에이전트 기술을 활용한 인프라 운영 자동화를 주제로 진행됐으며, 기존 온프레미스 중심 환경을 클라우드와 연계한 하이브리드 구조로 전환한 사례가 핵심이다. 이를 통해 AI 개발부터 서비스 운영까지 전 과정을 하나의 흐름으로 연결하는 통합 플랫폼을 구현했다.
기존에는 AI 모델의 학습, 평가, 배포, 운영이 각각 분리돼 운영되면서 서비스 전환 과정에서 비효율이 발생했지만, LG유플러스는 이를 단일 파이프라인으로 통합했다. 데이터 수집부터 모델 운영까지 전 과정을 일관된 환경에서 관리할 수 있도록 설계해 개발과 운영 간 단절을 최소화했다.
특히 ‘모델 준비 상태(Model Ready)’를 유지하는 구조를 도입해 AI를 단발성 개발이 아닌 지속적으로 서비스에 적용 가능한 형태로 관리하는 데 초점을 맞췄다. 이를 통해 서비스 품질과 운영 안정성을 동시에 확보할 수 있는 기반을 마련했다는 설명이다.
인프라 측면에서는 AWS의 관리형 쿠버네티스 서비스 ‘Amazon EKS’를 활용해 하이브리드 아키텍처를 구축했다. 자체 온프레미스 GPU 자원을 클라우드 환경과 통합하고, 컨트롤 플레인을 AWS 관리형 서비스로 운영함으로써 인프라 관리 부담을 줄였다.
GPU 자원 활용 방식도 개선했다. 기존의 고정 할당 방식에서 벗어나 필요에 따라 유연하게 자원을 배분하는 구조를 적용해 활용 효율을 높였다. 이를 통해 AI 학습과 서비스 제공 시점에 맞춰 자원을 최적화할 수 있게 됐다.
LG유플러스는 이번 플랫폼 구축을 통해 AI를 기술 중심이 아닌 ‘서비스 중심’으로 운영하는 체계를 확립했다고 강조했다. 인프라 관리 부담을 줄이고 서비스 품질 개선에 집중할 수 있는 환경을 조성했다는 평가다.
권기덕 Lab장은 “데이터 수집부터 모델 개발, 배포, 운영, GPU 관리까지 아우르는 AI-DLC 기반 플랫폼 역량을 강화하고 있다”며 “앞으로도 AWS와 협력을 통해 AI 서비스 품질과 안정성을 지속적으로 높여 나가겠다”고 밝혔다.
댓글
0