[뉴스웍스=차진형 기자] 유럽 보험사들이 생성형 인공지능(AI)을 빠르게 도입하는 가운데 관리 방식은 정반대로 바뀌고 있다. 도입 속도보다 리스크 통제 체계 구축이 더 중요한 과제로 떠오른 것이다.
3일 보험연구원에 따르면 유럽보험연금감독청(EIOPA)은 최근 설문에서 유럽 보험사의 65%가 생성형 AI를 활용 중이며 23%는 3년 내 도입 계획을 갖고 있는 것으로 나타났다. 이미 도입은 끝났고 이제는 어떻게 통제할 것인가가 핵심 이슈로 이동했다는 의미다.
유럽 보험사들의 전략은 의외로 단순하다. 자체 AI 개발 대신 외부 모델을 활용하는 방식이다.
프랑스 AXA는 오픈AI 모델을 기반으로 내부 데이터를 결합한 전용 AI를 구축했다. 막대한 개발 비용을 줄이면서도 자사 업무에 맞는 성능을 확보하기 위한 선택이다.
이 과정에서 가장 많이 활용되는 기술이 검색 증강 생성이다. 외부 AI 모델에 내부 데이터를 연결해 정확도를 높이고 환각 오류를 줄이는 방식이다.
생성형 AI는 언더라이팅, 보험금 심사, 고객 상담 챗봇 등 전 영역으로 빠르게 확산되고 있다.
리스크 관리 방식도 달라졌다. 기존 AI는 데이터를 어떻게 학습시킬 것인가가 핵심이었다. 하지만 생성형 AI는 다르다. 이미 외부 데이터로 학습된 모델을 쓰기 때문에 학습 과정 통제가 어렵다.
대신 초점은 어떤 결과를 내놓는지에 맞춰졌다. 입력과 출력 통제가 핵심으로 떠올랐다.
대표적인 대응 방식은 ▲동일 질문 반복 입력 후 결과 일관성 검증 ▲프롬프트 인젝션 공격 차단 ▲출력 과정 기록 및 추적 ▲인간 최종 검증 의무화 등이다.
리스크 유형에 따른 기술적 통제 장치 및 전사적 대응 체계.(자료=보험연구원)
AI 통제 방식은 기술 중심에서 운영 중심으로 이동했다. 생성형 AI 도입과 함께 새로운 리스크도 부각되고 있다. AI 환각, 프롬프트 해킹, 데이터 유출, 설명 불가능성 등이 대표적이다.
이에 대응해 유럽 보험사의 49%는 AI 전담 정책을 마련했고 IT·법무·리스크 부서가 결합된 전사적 관리 조직을 운영 중이다.
특히 데이터 보호 측면에서는 데이터 익명화, 샌드박스 테스트, 기본권 영향 평가 등이 핵심 통제 수단으로 자리 잡고 있다.
규제도 바뀌었다. EU 인공지능법은 공동 책임 구조를 도입했다.
과거에는 AI를 사용하는 기업이 대부분 책임을 졌다면 이제는 AI 개발사, 클라우드 제공업체, 금융회사 모두에게 책임이 분산된다.
하지만 현실은 다르다. 빅테크 기업들은 모델 구조나 학습 데이터를 공개하지 않는다. 결국 금융회사는 알 수 없는 AI를 사용하는 구조에서 리스크를 떠안게 된다.
이 때문에 계약상 책임 명시, 공급망 리스크 관리, 외부 감사 강화 등이 동시에 요구되고 있다.
이 흐름은 국내에도 그대로 적용될 가능성이 크다. 이미 은행과 보험사들이 생성형 AI를 고객 상담과 내부 업무에 확대 적용하고 있기 때문이다.
금융권 관계자는 "앞으로 경쟁은 AI를 쓰느냐가 아니라 얼마나 안전하게 쓰느냐로 바뀔 것"이라며 "특히 책임 구조가 확대되면서 내부통제 부담은 더 커질 것"이라고 말했다.
댓글
0