LG유플러스는 AWS 행사에서 AI 인프라 운영 자동화 플랫폼 구축 사례를 공개했다고 10일 밝혔다.
이번 사례는 생성형 AI와 에이전트 기술을 활용한 인프라 운영 자동화를 주제로, 기존 온프레미스 환경을 클라우드와 연계한 구조로 전환한 것이 핵심이다. 온프레미스는 기업이 자체 서버를 직접 운영하는 방식이며, 클라우드는 서버와 저장공간 등을 외부에서 빌려 쓰는 형태다.
허설 LG유플러스 MLOps개발팀 기술책임이 발표하고 있는 모습.
플랫폼은 모델 학습과 평가, 배포, 운영 과정에서 발생하던 단절을 줄이고 하나의 흐름으로 통합했다. 이를 통해 AI 서비스를 보다 안정적으로 운영할 수 있는 기반을 마련했다.
또 AWS의 컨테이너 운영 서비스인 Amazon EKS를 기반으로 하이브리드 인프라를 구축해 온프레미스 GPU 자원과 클라우드 환경을 함께 활용하도록 했다. GPU 자원을 필요에 따라 유연하게 배분하는 구조도 적용했다.
권기덕 LG유플러스 AX엔지니어링Lab장은 “AI 서비스 품질과 운영 안정성을 높이기 위한 플랫폼 역량을 강화하고 있다”며 “기술 협력을 통해 운영 체계를 지속 고도화하겠다”고 말했다.
사진 LG유플러스
박성재 기자 kdf＠kdfnews.com
박성재
댓글
0