통제 불능 AI 에이전트 막는다··· ‘최소 권한 원칙’ 적용 4대 보안 프레임워크 제시
엘름 2.0, 퍼블릭 클라우드 유출 위험 없는 프라이빗 AI 환경 구현
조규곤 파수 AI 대표
[데이터넷] “2022년부터 AI 기업으로의 전환을 준비해 왔다. 보안 기업으로서의 리더십을 공고히 하는 동시에 예측 불가능한 속도로 확산되는 AI 전환(AX) 흐름 속에서 진정한 비즈니스 파트너로 거듭나겠다”
조규곤 파수 AI 대표는 이같이 말하며, 파수 AI로 사명을 변경한 이후 차세대 AI 기업으로의 본격적인 행보에 나선다고 밝혔다.
파수 AI는 서울 여의도에서 ‘FDI 심포지엄 2026 기자간담회’를 열고 새로운 사명과 비전, 그리고 차세대 엔터프라이즈 AI 전략을 발표했다.
단순한 툴 도입을 넘어, 기업의 데이터 주권을 지키면서도 비즈니스 로직을 혁신하는 ‘지속가능한 AX’의 청사진을 제시했다는 평가다.
美 신규 법인 출범
이날 행사의 화두는 신규 법인 및 브랜드인 ‘심볼로직(Symbologic)’의 사업 방향성이다. 심볼로직은 파수의 축적된 데이터 보호 기술과 파트너사 콘실릭스(Konsilix)의 엣지 컴퓨팅 및 AI/ML 기술을 결합한 합작 모델이다.
심볼로직은 AI 도입 시 발생할 수 있는 데이터 유출 위험 없이 기존 IT 인프라 내에서 데이터를 안전하게 지능화하는 ‘데이터 인 플레이스(Data-in-place)’ AI 솔루션을 제공한다. 이는 데이터가 있는 자리에서 AI가 학습하고 추론하게 만드는 방식으로, 데이터 유출 민감도가 높은 기업들에 보안과 효율성을 동시에 확보할 수 있도록 한다.
조규곤 대표는 엔터프라이즈 AI의 3대 핵심 요소로 ▲엔터프라이즈 데이터 주권 ▲기업 보유 메모리 ▲결정론적 정확성(Deterministic Accuracy)을 꼽으며 “축적된 AI 데이터 보안 역량과 엔터프라이즈 AI를 위한 요소를 결합해 기업의 진정한 AI 비즈니스 파트너로서의 역할을 강화하겠다”고 강조했다.
AI 에이전트, 권한 제어가 핵심
이날 파수 AI는 고도화된 자율형 AI 에이전트가 기업에 미칠 치명적인 보안 위협을 경고했다. AI 모델 고도화가 가속됨에 따라 AI 시스템 자체가 공격 대상이 되었다. AI 모델 고유의 취약점을 노린 공격 경로가 새롭게 생성된 것이다.
특히 AI 에이전트가 부주의한 내부자처럼 검증되지 않은 외부 API에 핵심 내부 정보를 전송할 수 있다. 해커들 역시 AI를 무기화해 취약점을 스스로 탐색하고 실시간으로 공격을 확장하고 있다. 이러한 자율적 행동은 단순 정보 유출을 넘어 시스템의 물리적 오류나 비즈니스 로직 자체를 파괴할 수 있다.
이에 파수 AI는 다음과 같은 4대 방어 프레임워크를 제시했다.
• AI 애플리케이션 보안 강화
• 강력한 데이터 보안 체계 구축
• 커뮤니티 수준의 선제적 공동 대응
• 에이전트 스킬 접근 제어(최소 권한 원칙 적용)
조규곤 대표는 “지속가능한 AX를 위해서는 장기간의 ROI 확보가 필요하며, 여기에 리스크 관리는 필수적”이라고 강조했다.
아울러 AI 에이전트가 부여받은 권한을 넘어서는 스킬을 함부로 사용하지 못하도록 접근을 원천 통제하는 기술적 조치가 핵심으로 꼽힌다. 이에 파수 AI는 ‘최소 권한 원칙(RBAC)’을 적용함으로써 에이전트의 위험한 스킬 사용을 원천 방지한다.
올인원 AX 플랫폼 공개
파수 AI는 지속가능한 AX를 실현할 구체적인 무기로 기업형 프라이빗 LLM 기반의 ‘엘름 2.0(Ellm 2.0)’을 선보였다.
엘름 2.0은 데이터 관리, 보안, 실행이 단일 플랫폼 안에서 유기적으로 맞물려 돌아가도록 설계된 슈퍼 앱 형태를 띤다. 텍스트와 이미지를 아우르는 복합 분석, 채팅 내 앱 화면 통합, 쉽고 빠른 에이전트 빌딩 기능은 물론 차세대 RAG와 에이전트 오케스트레이션 기능을 지원한다.
파수 AI는 이를 바탕으로 기업의 혁신 단계를 ▲AI 레디(AI Assistant) ▲AI 빌드(Business Ready Agent) ▲AI 스케일(Agent Orchestration) 등 3단계로 구분하고 맞춤형 AX 컨설팅을 전개할 계획이다.
Tag
댓글
0