온프레미스·클라우드 연계
모델 개발·배포·운영 하나로
허설 LG유플러스 MLOps개발팀 기술책임이 아마존웹서비스(AWS)가 주최한 ‘2026 모던 에이전틱 애플리케이션스 데이’ 행사에서 발표하고 있다. LG유플러스 제공
LG유플러스는 아마존웹서비스(AWS)가 주최한 ‘2026 모던 에이전틱 애플리케이션스 데이’ 행사에서 인공지능(AI) 인프라 운영 자동화와 관련한 플랫폼 구축 사례를 소개했다고 12일 밝혔다.
회사는 기존 온프레미스 중심의 AI 개발 환경을 클라우드와 연계해 개발부터 서비스 운영까지 이어지는 구조로 전환했다. 이를 통해 모델 개발과 실제 서비스 운영 사이에서 발생하던 단절을 줄이는 데 초점을 맞췄다.
그동안 AI 모델의 학습, 평가, 배포, 운영이 각각 분리돼 진행되면서 서비스 전환 과정에서 반복 작업이 발생했는데, 이를 하나의 흐름으로 통합한 것이 핵심이다.
LG유플러스는 AI를 한 번 개발하고 끝내는 구조가 아니라, 항상 서비스에 바로 활용할 수 있는 ‘모델 준비 상태’(Model Ready)를 유지하는 것이 중요하다고 보고 플랫폼을 설계했다. 데이터 수집부터 학습, 평가, 배포, 운영까지 전 과정을 하나의 파이프라인으로 연결해 개발과 운영 환경을 일관되게 유지하는 구조를 구축했다.
인프라 측면에서는 AWS의 관리형 쿠버네티스 서비스인 아마존 EKS를 기반으로 하이브리드 인프라 구조를 도입했다. 온프레미스 그래픽처리장치(GPU) 인프라를 클러스터에 통합하고, 제어 영역은 AWS 관리형 서비스로 운영해 인프라 관리 부담을 줄였다.
GPU 자원 활용 방식도 바꿨다. 장비 단위로 고정 할당하던 기존 방식 대신 필요에 따라 자원을 나눠 쓰는 구조를 적용해 활용도를 높였다.
댓글
0