맷 힉스 레드햇 사장 겸 CEO가 '레드햇 서밋 2026'에서 발표하고 있다.
[아이티비즈 김문구 기자] 글로벌 오픈소스 솔루션 기업 레드햇이 '레드햇 서밋 2026'에서 인공지능(AI) 실험 단계와 프로덕션 운영 간의 간극을 해소하기 위해 ‘레드햇 AI 3.4’를 포함한 AI 포트폴리오 주요 업데이트를 발표했다.
레드햇 AI 3.4는 통합된 메탈-투-에이전트(metal to agent) 플랫폼을 통해 에이전틱 워크플로우의 개발 및 배포를 간소화하며, 기업이 파일럿을 넘어 전체 인프라에 걸쳐 확장 가능한 AI를 구현할 수 있도록 지원한다.
레드햇은 개발자와 운영자를 위한 일관된 프레임워크를 제공함으로써, 기업이 현대 엔터프라이즈 환경에서 요구되는 제어 기능, 보안 역량 및 하드웨어 효율성을 유지하면서 자율 시스템을 확장할 수 있는 기반을 마련한다.
레드햇 AI 3.4는 하이브리드 클라우드 전반에서 모델과 에이전틱 워크플로우를 확장하는 데 필요한 아키텍처 기반과 운영 도구를 제공하는 통합 플랫폼이다. 핵심은 서비스형 모델(MaaS; Model-as-a-Service)이다. 이번 업데이트를 통해 개발자는 선별된 모델에 단일 거버넌스 인터페이스를 통해 접근하는 동시에, 관리자가 사용량을 모니터링하고 정책을 적용할 수 있도록 한다. 이는 vLLM과 llm-d를 기반으로 하는 고성능 분산 추론 위에 구축되어 다양한 환경에서 최적화되고 효율적인 모델 서빙을 유지한다.
AI 에이전트가 추론 수요를 기하급수적으로 증가시키는 가운데, 레드햇 AI는 에이전트 프레임워크에 관계없이 대규모로 에이전트를 배포하고 관리할 수 있는 기능을 제공한다. 새롭게 도입된 에이전트옵스(AgentOps) 도구는 통합 추적(tracing), 가시성(observability), 암호학 신원 관리 및 라이프사이클 관리 기능을 통해 개발 단계부터 운영 단계까지 에이전트를 관리한다.
엔터프라이즈 데이터를 모델 및 에이전트와 통합하기 위해, 레드햇 AI 3.4는 프롬프트를 핵심 데이터 자산으로 관리하는 프롬프트 관리 기능과 모델 및 에이전트의 정확성·품질·안전성을 평가하는 평가 허브(Evaluation Hub)를 새롭게 제공한다. 이 기능들은 생성형 AI와 예측형 AI에 대해 통합된 실험 추적 및 아티팩트 관리 기능을 제공하는 MLflow 플랫폼을 기반으로 한다. 또한 채터박스 랩스(Chatterbox Labs) 기술과 가락(Garak) 프로젝트를 활용한 자동화된 안전성 테스트 및 레드팀(red-teaming) 기능을 통해, 사용자가 모델과 에이전트의 안전성을 검증할 수 있도록 지원하며, 실험적 파일럿에서 프로덕션 환경에 적용 가능한 엔터프라이즈 유틸리티로 이어지는 보안 중심의 경로를 제공한다.
실험적 챗봇에서 프로덕션 수준의 자율 시스템으로의 전환은 IT 팀 간 협업 방식의 근본적인 변화를 요구한다. 많은 기업이 비용을 효율적으로 관리하고 프라이빗·소버린 AI 활용 사례를 구현하기 위해, 단순히 AI 서비스를 소비하는 '토큰 소비자(token consumer)'에서 AI를 직접 운영하는 '토큰 제공자(token provider)'로 전환해야 할 필요성을 인식하고 있다. 그러나 개발자와 인프라 관리자 사이의 마찰은 여전히 도입의 주요 장애물로 남아 있다. 두 역할을 조율하는 통합된 접근 방식 없이는 인프라 접근 장벽은 혁신을 저해하고, '섀도우 AI(shadow AI)'로 인한 거버넌스 공백과 예측 불가능한 비용 증가로 이어질 수 있다.
레드햇 AI 3.4는 확장 가능한 추론과 자율 에이전트 배포를 위한 엔터프라이즈 기반을 제공해 이러한 상충 관계를 해소하며, 엄격한 리스크 및 거버넌스 기준을 충족하는 데 필요한 투명성과 제어 기능을 제공한다. 에이전트는 일정 수준의 자율성을 가지고 작동하기 때문에, 의사결정 과정에 대한 가시성 부족은 심각한 보안 위험 요소가 된다. 레드햇 AI는 행동, 추론 단계, 도구 호출을 추적할 수 있는 인프라를 제공해, 에이전트가 어떤 과정을 거쳐 특정 결과에 도달했는지 감사(audit)할 수 있다. 암호화 신원 관리 기능 통합을 통해, 모든 행동을 검증된 신원과 연결함으로써 어떤 주체가 해당 작업을 수행했는지 확인할 수 있다. 이러한 기능들은 기업이 분산화된 파일럿을 넘어 AI를 확장 가능하고 예측 가능하며, 무엇보다 책임 있는 엔터프라이즈 인프라로서 운영할 수 있도록 지원한다.
조 페르난데스 레드햇 AI 비즈니스 유닛 부사장 겸 총괄 관리자는 "에이전틱 시대는 레드햇 플랫폼이 기존 애플리케이션 실행에서 지능형 자율 시스템 운영으로 진화하는 전환점을 의미한다”며 “기업이 AI를 실행하는 방식에 대한 개방형 표준을 정의하고 있다. 레드햇은 AI 추론, MaaS, 에이전트옵스를 위한 견고한 메탈-투-에이전트 기반을 제공함으로써, 기업이 엄격한 통제력을 유지하면서도 대규모로 혁신을 추진하는 데 필요한 운영적 안정성을 제공한다”고 말했다.
댓글
0