(사진=일레븐랩스)
일레븐랩스는 리스크 평가 전문 AIUC(Artificial Intelligence Underwriting Company)와 협력해 세계 최초 ‘AI 음성 에이전트 전용 종합 보험 제도(AI Insurance)’를 운영한다고 18일 밝혔다.
AI 에이전트인 ‘일레븐에이전트(ElevenAgents)’가 잘못된 정보를 제공해 손해가 발생하는 경우, 이에 대해 보험 보장을 받을 수 있는 구조를 마련했다는 설명이다.
이는 AI를 단순한 소프트웨어가 아닌, 책임을 수반하는 ‘디지털 직원(Digital Employee)’의 개념으로 재정립한 것이라고 강조했다.
특히, 현재 많은 기업들이 AI 에이전트 도입을 검토하고 있지만, 여전히 상당수 기업이 파일럿(시범운영) 단계에서 정체돼 있다고 지적했다. 이는 AI 환각과 부적절한 발언 등에 따른 법적·경제적 책임이 불명확해서 발생하는 문제라는 것이다.
이를 해결하기 위해 AIUC와 엄격한 위험 검증을 수행하고 AI를 금융 자산으로 정의하는 새로운 기준을 마련했다고 전했다. 특히, 일레븐랩스 AI 에이전트는 AIUC가 개발한 엄격한 보안 표준 ‘AIUC-1 보안·신뢰성 인증’을 세계 최초로 획득했다고 밝혔다.
구체적으로는 환각, 프롬프트 인젝션 공격, 데이터 유출, 편향성 문제 등 실제 AI 시스템에서 발생할 수 있는 실패 사례를 바탕으로 고강도 적대적 시뮬레이션 테스트 5000여건을 모두 성공적으로 통과했다. 이에 따라 일레븐에이전트의 행위는 인간 직원이 초래한 업무 실수와 동일하게 보험 적용 대상이 된다.
다만, 이 보험은 일레븐에이전트를 사용하는 모든 기업에 자동 적용되는 것은 아니다. 보험을 활성화하기 위해서는 AIUC의 개별 감사와 에이전트의 운영 환경 및 위험에 따른 AIUC의 인증을 확보해야 한다.
AIUC-1 인증의 유효기간은 12개월이며, 최소 3개월마다 기술 테스트를 통해 유효성을 입증해야 한다. AI 에이전트 보험 비용은 인증 비용에 포함되지 않으며, 에이전트 유형에 따라 별도 비용이 책정된다.
마티 스타니셰프스키 일레븐랩스 CEO는 “지금까지 AI는 결함이 발생했을 때 수정하는 소프트웨어로 취급됐지만, 이번 보험 제도를 통해 ‘자율적인 결정을 내리고 자 행동에 책임을 지는 디지털 직원’으로 인식될 것”이라고 말했다.
이어 “이번 인증은 파트너 기업이 필요로 하는 보안 프레임워크와 AI 보험 보장을 제공하며, 기업이 리스크를 최소화하면서도 뛰어난 고객 경험 구축에 집중할 수 있도록 하는 새로운 수단이 될 것”이라고 전했다.
장세민 기자
관련기사
일레븐랩스, 영상·음성 통합 원스톱 콘텐츠 제작 플랫폼 출시
[게시판] 일레븐랩스, '맥가이버' AI 목소리 구현하는 개념검증 진행 등 단신
일레븐랩스, 1년 만에 기업가치 3배인 16조로 증가
장세민 기자
다른기사 보기
키워드
#ai
#AI
#인공지능
#AIUC-1
#AIUC
#일레븐랩스
#에이전트
저작권자 © AI타임스 무단전재 및 재배포, AI학습 및 활용 금지
댓글
0