환각·정보유출 대응 위한 거버넌스 구축... AI법 시행에 공동책임 구조 확대
유럽 보험업계가 생성형 AI 도입을 빠르게 확대하면서, 이에 수반되는 새로운 리스크 관리 체계 구축에 속도를 내고 있다.
생성형 AI가 고객 응대, 보험금 심사, 약관 분석, 상품개발 등 다양한 영역으로 확산되면서 생산성 개선 효과가 기대되지만, 동시에 환각(hallucination), 데이터 유출, 편향, 설명 가능성 부족 등 복합 리스크도 부각되고 있기 때문이다.
보험연구원이 발표한 ‘유럽의 생성형 AI 리스크 관리 동향 및 책임 범위 확대’ 리포트에 따르면 유럽보험연금감독청(EIOPA) 조사 결과, 유럽 보험사의 65%가 이미 생성형 AI를 활용 중이며 23%는 향후 3년 내 도입 계획을 보유하고 있다.
주요 활용 분야는 고객 상담 자동화, 내부 문서 작성, 클레임 심사 보조, 리스크 평가 및 상품 설계다. 단순 챗봇 수준을 넘어 보험 핵심 가치사슬 전반으로 AI 적용이 확대되는 모습이다.
대표 사례로 프랑스 보험사 AXA는 OpenAI 기반 내부 AI 시스템 ‘AXA Secure GPT’를 구축했다. 이를 통해 직원들은 약관 요약, 리포트 작성, 내부 규정 검색 등을 자동화하고 있다.
독일 알리안츠 역시 보험금 청구 데이터 분류와 고객 질의 응답 자동화 프로젝트를 운영 중이다.
문제는 AI 활용이 확대될수록 책임 범위 역시 넓어진다는 점이다.
기존 머신러닝은 주로 학습 데이터 품질과 모델 정확도가 핵심 관리 대상이었다면, 생성형 AI 시대에는 프롬프트 설계, 결과 검증, 인간 개입 여부가 핵심 관리 포인트로 이동했다.
특히 보험업 특성상 AI가 잘못된 보험금 안내나 부정확한 상품 설명을 제공할 경우 소비자 피해와 규제 리스크가 동시에 발생할 수 있다.
이 때문에 유럽 보험사들은 AI 결과물을 인간이 최종 검토하는 human-in-the-loop 구조를 기본 원칙으로 도입하고 있다.
규제 환경도 빠르게 강화 중이다. EU AI법(AI Act)은 AI 제공자뿐 아니라 활용 기업에게도 공동 책임을 부과한다.
보험사는 AI 솔루션 공급업체 관리, 데이터 보안, 소비자 설명 책임까지 포괄적으로 관리해야 한다.
유럽 보험사의 49%는 이미 AI 전담 정책을 수립했으며, 법무·IT·리스크관리 부서가 참여하는 AI 거버넌스 위원회를 운영 중이다.
주요 통제 항목은 △프롬프트 인젝션 차단 △데이터 익명화 △기본권 영향 평가 △AI 로그 기록 및 감사 등이다.
보험연구원은 “생성형 AI는 보험산업의 비용 절감과 생산성 향상에 기여할 가능성이 크지만, 책임 소재가 불명확할 경우 오히려 법적·평판 리스크가 확대될 수 있다”며 “AI 거버넌스 체계 구축이 경쟁력의 핵심이 될 것”이라고 분석했다.
댓글
0