일레븐랩스, 세계 최초 AIUC-1 보안-신뢰성 인증 (사진=일레븐랩스)
[MS투데이] 인공지능(AI) 음성 기술 기업 일레븐랩스(ElevenLabs)가 AI 리스크 전문 기업 AIUC(Artificial Intelligence Underwriting Company)와 협력해 AI 음성 에이전트 전용 보험 제도를 도입했다. AI 에이전트의 발언이나 행동으로 인해 기업 고객에게 손해가 발생할 경우 이를 보장하는 구조다.
회사는 이번 제도가 AI를 단순 소프트웨어가 아닌 ‘책임을 수반하는 디지털 인력’으로 간주하는 첫 사례라고 설명했다.
어떤 경우에 보장되나?
보험 적용 대상은 일레븐랩스의 기업용 음성 AI 에이전트 ‘일레븐에이전트(ElevenAgents)’다. 기업의 고객 지원이나 영업 환경에서 해당 AI가 잘못된 정보를 제공하거나 부적절한 대응을 해 경제적 손해가 발생할 경우 보상 대상이 될 수 있다.
예를 들어 할인율을 잘못 안내하거나, 규정에 어긋나는 상담을 제공해 손실이 발생하는 경우 등이 포함될 수 있다. 다만 구체적인 보장 범위와 한도는 각 기업의 운영 환경과 리스크 프로필에 따라 달라진다.
보험은 자동 적용 방식이 아니라, AIUC의 개별 감사와 인증을 통과한 에이전트에 한해 활성화된다.
AIUC-1 인증 필수…5,000회 이상 적대적 테스트
보험 적용의 전제 조건은 AIUC가 부여하는 ‘AIUC-1’ 인증이다. 이 인증은 AI 시스템의 보안성과 신뢰성을 검증하기 위한 절차다.
일레븐랩스에 따르면, 해당 에이전트는 환각(hallucination), 프롬프트 인젝션 공격, 데이터 유출, 편향성 문제 등 실제 운영 환경에서 발생할 수 있는 위험 시나리오를 기반으로 5,000건 이상의 적대적 시뮬레이션 테스트를 거쳤다.
인증 유효기간은 12개월이며, 유지 조건으로 최소 3개월마다 기술 테스트를 통과해야 한다. 보험료는 인증 비용과 별도로 산정된다.
한국에서 일레븐에이전트를 도입한 기업도 동일 조건을 충족할 경우 보험 적용 대상이 될 수 있다.
AI 도입의 걸림돌, ‘책임 공백’ 해소 시도
최근 기업들은 고객 상담, 세일즈, 예약 응대 등 다양한 분야에서 AI 에이전트 도입을 확대하고 있다. 그러나 AI 환각이나 부적절한 발언으로 인한 법적 책임 소재가 불분명하다는 점은 확산의 제약 요인으로 지적돼 왔다.
지금까지 AI는 문제가 발생하면 수정·패치하는 ‘도구’로 취급돼 왔지만, 보험 적용 구조는 AI의 행위를 인간 직원의 업무 실수와 유사한 범주로 다룬다는 점에서 차이가 있다.
한 보험·핀테크 전문가는 “기업 입장에서는 AI 도입 시 가장 큰 불확실성이 법적 책임과 손해배상 리스크”라며 “보험 구조가 마련되면 내부 컴플라이언스와 리스크 관리 체계에 AI를 포함시키는 것이 수월해질 수 있다”고 말했다.
‘디지털 직원’ 개념의 제도화 가능성
이번 제도는 AI를 ‘디지털 직원’으로 정의하는 접근을 제도적으로 시도했다는 점에서 의미가 있다는 평가가 나온다. 인간 직원이 초래한 업무상 과실과 유사한 기준으로 AI 행위를 평가하고, 금융 메커니즘을 통해 위험을 분산하는 구조이기 때문이다.
다만 모든 AI 시스템에 일괄 적용되는 것은 아니며, 인증을 통과한 특정 에이전트에 한정된다는 점에서 보편적 기준으로 확산될지는 미지수다.
한 AI 정책 전문가는 “AI 보험은 기술 자체의 완전성을 보장한다기보다, 불확실성을 금융적으로 관리하는 장치”라며 “향후 각국 규제와 결합해 표준화될지 여부가 관건”이라고 분석했다.
AI 상용화 2단계 진입 신호?
업계에서는 이번 사례를 AI 상용화의 ‘2단계’로 해석한다. 1단계가 기술 도입과 성능 개선이었다면, 2단계는 책임·보상·보험 등 제도적 인프라 구축이라는 것이다.
AI가 기업의 핵심 업무에 투입되는 비중이 커질수록, 기술적 안정성뿐 아니라 법적·재무적 안전망이 중요한 요소로 부상하고 있다.
일레븐랩스의 AI 보험 모델이 글로벌 표준으로 자리 잡을지는 아직 단정하기 어렵다. 그러나 AI의 ‘행동 책임’을 보험 체계 안으로 편입시키려는 시도가 본격화되고 있다는 점은 분명한 변화로 평가된다.
댓글
0