LGU+, AWS 손잡고 AI 인프라 자동화

하이브리드 클라우드 도입, 온프레미스 서버·AWS 연계

GPU 자원 효율성 극대화..AI 모델 배포·운영 속도 단축

공공뉴스=이화종 기자

LG유플러스가 인공지능(AI) 모델을 실제 서비스로 안정적으로 운영하기 위해 구축한 인프라 자동화 플랫폼 사례를 공개하며 AX(AI 전환) 경쟁력 강화에 나섰다.

LG유플러스는 플랫폼 구축의 핵심 기술로 쿠버네티스 기반의 컨테이너 운영 서비스를 도입했다. 자체 서버와 클라우드를 통합한 AI 개발부터 운영까지 자동화된 플랫폼 구축 성과를 통해 서비스 품질과 안정성을 높였다.

LG유플러스는 아마존웹서비스(AWS)가 주최한 ‘2026 Modern Agentic Applications Day’ 행사에서 AI 모델을 실제 서비스로 안정적으로 운영하기 위한 플랫폼 구축 사례를 공개했다. 사진은 허설 LG유플러스 MLOps개발팀 기술책임이 발표하고 있는 모습. <사진제공=LG유플러스>

LG유플러스는 지난 9일 진행된 아마존웹서비스(AWS)가 주최한 ‘2026 Modern Agentic Applications Day’ 행사에서 AI 모델을 실제 서비스로 안정적으로 운영하기 위한 플랫폼 구축 사례를 공개했다고 10일 밝혔다.

LG유플러스가 도입한 쿠버네티스는 수많은 소프트웨어 실행 단위인 컨테이너들이 적재적소에 배치되고 원활하게 작동하도록 관리하는 지능형 항만 관제 시스템과 같은 역할을 수행한다.

과거에는 엔지니어가 일일이 서버 상태를 점검하고 소프트웨어를 설치해야 했지만 이제는 시스템이 스스로 상태를 확인하고 문제가 생기면 자동으로 복구하는 자율 주행 관리 환경이 갖춰졌다.

이를 통해 인프라 관리 부담을 줄이는 대신 서비스 품질 개선에 역량을 집중할 수 있게 됐다.

비용과 보안이라는 두 마리 토끼를 잡기 위해 온프레미스 GPU 인프라와 클라우드를 잇는 전략도 추진했다.

온프레미스 GPU 인프라는 외부 클라우드를 빌려 쓰는 대신 기업 내부 전산실에 직접 고성능 엔진과 같은 GPU 서버를 설치해 운영하는 방식이다. 보안이 중요한 데이터를 내부에서 처리할 수 있고 대규모 연산 시 응답 속도가 느려질 수 있다는 우려를 해소했다.

LG유플러스는 여기에 아마존 EKS 클러스터 하이브리드 노드 기술을 접목했다. 하이브리드 노드는 내부에 설치된 강력한 엔진과 외부의 거대한 클라우드 자원을 하나의 시스템처럼 부드럽게 연결하는 지능형 다리 역할을 한다.

기존에는 AI 모델 개발과 서비스 운영 단계 사이에서 단절이 발생해 효율이 떨어졌으나 이번 플랫폼 구축으로 개발부터 운영까지 전 과정을 효율적으로 연결했다.

특히 기존에는 GPU 장비를 통째로 할당해 사용하지 않는 시간이 발생하곤 했으나 이번 플랫폼은 자원을 필요한 만큼 쪼개어 배분하는 구조를 적용해 효율을 극대화했다. LG유플러스는 이러한 인프라 혁신을 통해 AI 모델 학습부터 실제 고객 서비스 배포까지 걸리는 시간을 대폭 단축했다.

권기덕 LG유플러스 AX엔지니어링Lab장은 “LG유플러스는 AX 서비스 가속화를 위해 데이터 수집부터 모델 개발·배포·운영, GPU 운영까지 아우르는 AI-DLC(AI 주도 개발 라이프사이클) 기반의 엔지니어링 플랫폼 역량을 강화하고 있다”며 “앞으로도 AWS와의 기술 협력을 통해 AI 서비스 품질과 운영 안정성을 지속적으로 높여 나가겠다”고 말했다.