기업의 인공지능(AI) 활용 경쟁이 단순 도입을 넘어 운영 역량의 문제로 옮겨가고 있다. 생성형 AI와 AI 에이전트가 빠르게 확산하고 있지만, 기업 내부 데이터와 시스템에 연결해 전사적으로 활용하려면 보안·권한·비용·감사 체계를 갖춘 운영 기반이 필요하다는 진단이 나왔다.
공성배 메가존클라우드 최고AI책임자(CAIO)가 12일 서울 프레스센터에서 열린 ‘AI&CLOUD 2026’에 참석해 ‘AI 거버넌스: 엔터프라이즈 AI 케즘을 넘는 운영 전략’을 주제로 발표하고 있다. / IT조선
공성배 메가존클라우드 최고AI책임자(CAIO)는 12일 서울 중구 프레스센터에서 열린 ‘AI&CLOUD 2026’에 참석해 ‘AI 거버넌스: 엔터프라이즈 AI 케즘을 넘는 운영 전략’을 주제로 발표했다. 그는 “기업의 AI 확산을 가로막는 가장 큰 장벽은 기술력 부족이 아니라 운영 기반의 부재”라고 말했다.
공성배 CAIO는 기업들이 생성형 인공지능(AI) 도입과 실험에는 적극적으로 나서고 있지만, 이를 전사적으로 확산하고 실제 비즈니스 성과로 연결하는 데는 여전히 어려움을 겪고 있다고 진단했다. 초기에는 챗GPT나 제미나이 같은 생산성 도구를 활용하는 수준에서 시작할 수 있지만, 기업 내부 시스템과 데이터, 업무 프로세스에 AI를 연결하려면 별도의 운영 체계가 필요하다는 설명이다.
공 CAIO는 “생산성 도구로 쓰는 AI와 기업형 AI는 다르기 때문에 AI가 전사 확산 단계로 넘기기 위해서는 건너야 할 산이 많다”며 “기업 단위에서는 ERP(전사적자원관리)나 데이터웨어하우스와 연동해야 하고 이 과정에서 통제와 보안, 권한 관리가 필요하다”고 말했다.
공 CAIO는 기업 AI 확산 과정에서 가장 많이 제기되는 우려로 데이터 신뢰성, 보안과 개인정보 유출, 지식재산권, 윤리 기준, 비용 대비 효과 등을 꼽았다. 그는 “AI 확산의 큰 장애 중 하나가 기술력 부족보다는 운영 기반의 부재”라며 “데이터 이슈, 보안과 유출 위험, 불투명한 ROI(투자 대비 수익)를 어떻게 극복할 것인지가 중요하다”고 말했다.
특히 AI 거버넌스를 신뢰할 수 있는 기반 체계로 봐야 한다고 강조했다. AI가 개별 도구나 단기 구축 프로젝트 중심으로 도입되는 데 그치면 지속성을 확보하기 어렵고, 기업 문맥을 반영한 표준과 정책, 가시성, 통제 체계가 함께 마련돼야 한다는 것이다.
이를 위해 메가존클라우드는 AI 거버넌스 프레임워크를 ‘TRUST’로 제시했다. ▲추적성(Traceability) ▲규정·정책(Regulation) ▲이용자 접근(User Access) ▲표준화(Standardization) ▲도구화(Tooling)를 뜻한다. 기업이 AI를 전사적으로 확산하려면 누가 어떤 AI를 얼마나 쓰는지 추적하고, 조직별 정책과 예산을 통제하며, 사용자와 에이전트의 접근 권한을 관리해야 한다는 설명이다.
공성배 CAIO는 “프롬프트와 RAG(검색증강생성) 파이프라인, 에이전트 등 AI 구성 요소를 표준화하고, 다양한 모델과 외부 솔루션을 안전하게 연결할 수 있는 도구 체계도 필요하다”며 “비용 측면에서도 토큰 사용량을 개인·부서·프로젝트 단위로 관리해야 예산 통제와 투자 효율 분석이 가능해진다”고 말했다.
아울러 공 CAIO는 AX(AI 전환)가 단순 AI 구축 사업이 아니라 “AI를 잘 활용하기 위해 회사의 DNA를 바꾸는 작업”이라고 설명했다. 기존 시스템 구축처럼 요구사항을 받고 설계·개발·테스트를 거쳐 끝나는 방식만으로는 부족하고, 현업 이해와 변화관리, 거버넌스가 함께 작동해야 한다는 것이다.
이에 공성배 CAIO는 기업이 AI 솔루션을 선택하는 하나의 방법으로 ‘엔터프라이즈 AI OS(운영체제)’를 제시했다. 기업이 여러 AI 솔루션과 모델, 내부 시스템, 데이터 자산을 안전하고 효율적으로 활용하려면 운영체제처럼 이를 정리하고 통합 관리하는 체계가 필요하다는 설명이다.
엔터프라이즈 AI OS는 크게 ▲빌드 AI(Build AI) ▲런 AI(Run AI) ▲거번 AI(Govern AI)로 구성된다. 빌드 AI는 기업 데이터와 지식을 연결해 AI를 설계·구축하는 영역이고, 런 AI는 레거시 시스템과 연계된 에이전트 기반 업무 실행과 자동화를 뜻한다. 거번 AI는 보안, 권한, 품질 관리를 통해 엔터프라이즈 AI 운영을 통제하는 역할이다.
메가존클라우드는 이를 구현하기 위한 제품으로 ‘에어 스튜디오(AIR Studio)’를 보유하고 있다. 에어 스튜디오는 AI 어시스턴트(Assistant), 스튜디오(Studio), 어드민 콘솔(Admin Console) 등 세 가지 모듈을 통해 AI의 설계부터 실행, 운영까지 하나의 흐름으로 연결하는 구조다. AI 어시스턴트는 자연어 기반 대화나 API 방식으로 기업 업무를 실행하고, 스튜디오는 기업 문서와 데이터를 AI가 활용할 수 있는 지식 자산으로 만든다. 어드민 콘솔은 사용자 권한, 모델과 리소스, 운영 모니터링, 보안 정책을 통합 관리한다.
공성배 CAIO는 모든 AI 트래픽을 게이트웨이를 통해 관리하는 구조도 강조했다. 내부에서 구축한 AI 서비스뿐 아니라 외부 서비스형 소프트웨어(SaaS) AI 사용까지 통제 가능한 범위 안으로 끌어와야 기업형 AI와 생산성 AI를 함께 관리할 수 있다는 설명이다.
공 CAIO는 “모든 트랜잭션과 트래픽이 AI 게이트웨이를 통과하게끔 설계했다”며 “내부 시스템과 연계해 API를 제공하거나 받을 때도 반드시 게이트웨이를 통하도록 해 제어할 수 있다”고 말했다.
마지막으로 공성배 CAIO는 기업 AI가 PoC나 일부 업무 적용을 넘어 전사 확산 단계로 가려면 현장을 이해하는 실행 역량이 중요하다고 강조했다. 그는 “기업 내에 AI를 확산하기 위해서는 AI를 누구와 하느냐가 비즈니스 성패를 결정한다”고 말했다.
한편 조선미디어그룹의 ICT 전문 미디어 IT조선이 주최하고 과학기술정보통신부, 정보통신기획평가원(IITP), 한국지능정보사회진흥원(NIA), 정보통신산업진흥원(NIPA)이 후원한 ‘AI&CLOUD 2026’ 콘퍼런스가 12일 서울 중구 프레스센터에서 열렸다. ‘AI 경제 대전환: AI 인프라 주권과 산업 전환’을 주제로 열린 이번 콘퍼런스는 기조연설과 다양한 세션을 통해 클라우드에서 AI, 양자컴퓨팅으로 이어지는 기술 변화의 흐름을 트렌드를 넘어 경제 질서 전환의 관점에서 다뤘다.
댓글
0