AWS 행사서 '서비스 가능한 AI 플랫폼' 구축 사례 소개
온프레미스 GPU와 클라우드 연계해 개발·배포·운영 통합
허설 LG유플러스 MLOps개발팀 기술책임이 AWS가 주최한 '2026 Modern Agentic Applications Day' 행사에서 발표를 하고 있다. 사진=LG유플러스
LG유플러스가 AI(인공지능) 모델을 실제 서비스로 안정적으로 운영하기 위한 플랫폼을 구축하며 AX(인공지능 전환) 서비스 고도화에 속도를 낸다.
LG유플러스는 AWS가 주최한 '2026 Modern Agentic Applications Day' 행사에서 이 같은 사례를 소개했다고 10일 밝혔다.
LG유플러스에 따르면 이번 플랫폼은 AI 모델 개발과 서비스 운영 단계 사이의 단절을 줄이는 데 초점을 맞췄다. 그동안 학습, 평가, 배포, 운영이 각각 분리돼 반복 작업이 발생했던 구조를 하나의 흐름으로 통합한 것이 핵심이다.
LG유플러스는 AI를 한 번 개발하고 끝나는 것이 아니라, 항상 실제 서비스에 활용할 수 있는 '모델 준비 상태'를 유지하는 데 중점을 두고 플랫폼을 설계했다. 이를 위해 데이터 수집부터 학습, 평가, 배포, 운영까지 전 과정을 하나의 파이프라인으로 연결해 개발자와 운영자가 일관된 기준 아래 AI를 다룰 수 있도록 했다.
기술적으로는 AWS의 관리형 쿠버네티스 서비스인 '아마존 EKS' 기반의 하이브리드 인프라 아키텍처를 도입했다. 자체 보유한 온프레미스 GPU 인프라는 아마존 EKS 클러스터의 하이브리드 노드로 통합하고, 클러스터 전체를 중앙 제어하는 쿠버네티스 컨트롤 플레인은 AWS 완전관리형 서비스로 운영해 관리 부담을 줄였다.
자원 활용 방식도 개선했다. 기존처럼 장비 단위로 GPU를 고정 할당하는 대신 필요한 만큼 유연하게 배분하는 구조를 적용해 미사용 시간을 줄이고 자원 활용 효율을 높였다고 LG유플러스는 설명했다.
권기덕 LG유플러스 AX엔지니어링Lab장은 "LG유플러스는 AX 서비스 가속화를 위해 데이터 수집부터 모델 개발·배포·운영, GPU 운영까지 아우르는 AI-DLC 기반의 엔지니어링 플랫폼 역량을 강화하고 있다"며 "앞으로도 AWS와의 기술 협력을 통해 AI 서비스 품질과 운영 안정성을 지속적으로 높여 나가겠다"고 말했다.
댓글
0