LG유플러스, AWS 행사서 온프레미스·클라우드 연계 AI 플랫폼 사례 발표

LG유플러스가 아마존웹서비스(AWS) 행사에서 AI 모델의 개발부터 서비스 운영까지 연결하는 플랫폼 구축 사례를 공개했다.

사진=LG유플러스

LG유플러스는 AWS가 주최한 '2026 Modern Agentic Applications Day'에서 AI 모델을 실제 서비스에 안정적으로 적용하기 위한 플랫폼 구축 경험을 발표했다고 밝혔다. 이번 사례는 온프레미스 중심의 기존 AI 개발 환경을 클라우드와 연계한 구조로 전환하고, 개발과 운영 과정을 하나의 흐름으로 통합한 점에 초점을 맞췄다.

회사는 기존에 AI 모델의 학습, 평가, 배포, 운영이 각각 분리돼 진행되면서 서비스 전환 과정에서 반복 작업이 발생했다고 설명했다. 이를 줄이기 위해 데이터 수집부터 학습, 평가, 배포, 운영까지 전 단계를 하나의 파이프라인으로 연결하는 방식으로 플랫폼을 설계했다.

이 과정에서 AWS의 관리형 쿠버네티스 서비스인 Amazon EKS 기반 하이브리드 인프라 아키텍처를 도입했다. 자체 온프레미스 GPU 인프라를 Amazon EKS 클러스터의 하이브리드 노드로 통합하고, 쿠버네티스 컨트롤 플레인은 AWS 완전관리형 서비스로 운영해 플랫폼 관리 부담을 줄였다는 설명이다.

GPU 자원 운용 방식도 바꿨다. 장비 단위로 고정 할당하던 기존 방식 대신 필요한 시점에 필요한 만큼 자원을 배분하는 구조를 적용해 GPU 미사용 시간을 줄이고, AI 모델 학습과 서비스 운영 효율을 높였다.

LG유플러스는 이를 통해 AI를 한 번 개발하고 끝내는 구조가 아니라, 실제 서비스에 곧바로 활용할 수 있는 '모델 준비 상태(Model Ready)'를 유지하는 기반을 강화했다고 밝혔다.