허설 LG유플러스 MLOps개발팀 기술책임이 발표하고 있는 모습.(사진=LG유플러스)
LG유플러스는 10일 아마존웹(AWS)이 개최한 '2026 모던 에이전틱 애플리케이션 데이'에서 생성형 AI와 에이전트 기술을 활용한 인프라 운영 자동화 사례를 발표했다. 회사는 온프레미스 중심의 AI 개발 환경에 AWS 기반 클라우드를 연계한 하이브리드 인프라를 공개했다.
LG유플러스는 AI 모델을 만드는 단계와 실제 서비스에 올리는 단계를 하나의 파이프라인으로 묶었다고 설명했다. 이는 데이터 수집부터 운영까지 이어지는 체계를 의미한다. 회사는 이를 바탕으로 AI 모델을 서비스에 곧바로 적용할 수 있는 상태로 유지하는 데 초점을 맞췄다.
인프라 설계에는 AWS의 관리형 쿠버네티스(인프라 자동화 시스템) 서비스인 아마존 EKS를 사용했다고 밝혔다. LG유플러스에 따르면 온프레미스 GPU를 EKS 클러스터의 하이브리드 노드로 결합하고 컨트롤 플레인(쿠버네티스의 핵심 엔진)은 AWS 완전관리형 서비스에 맡기는 구조다. 회사는 이 방식으로 인프라 운영 부담을 낮추고 플랫폼 안정성과 서비스 품질 관리에 더 집중할 수 있다고 설명했다.
GPU 운영 방식도 바꿨다. 기존 장비 단위 고정 할당 대신 수요에 따라 자원을 배분하는 방식을 적용했다. 회사는 이 변화로 유휴 GPU 시간을 줄이고 학습과 서비스 제공 시점에 자원을 더 효율적으로 쓸 수 있게 됐다고 공개했다.
권기덕 LG유플러스 AX엔지니어링Lab장은 "데이터 수집부터 모델 배포, 운영, GPU 관리까지 한 흐름으로 묶는 데 초점을 맞췄다"고 말했다.
댓글
0