[AI 보험, 혁신의 그늘]③알고리즘 편향 막을 경성규범 필요…설명의무...

해외 주요국, 투명성 요건 강화 등 강력한 규제 정비

국내 가이드라인은 권고 수준… 제도적 공백 보완 요구

업계·학계 "AI 심사 거절 시 사유 고지 및 인적 재심사 보장해야"

보험회사들이 업무 전반에 인공지능(AI)을 적용하면서 보험금 지급 여부 등 핵심 의사결정 과정에서 발생하는 '편향성'과 '불투명성'을 해결해야 한다는 목소리가 높아지고 있다. 이에 따라 혁신의 속도에 가려진 소비자 보호의 사각지대를 메우기 위해서는 단순 권고를 넘어선 법적 구속력을 갖춘 '경성규범' 도입이 과제로 떠오르고 있다.

보험회사 직원과 보험가입자가 보험금 지급 등에 관해 논의하는 모습을 표현한 이미지. 아시아경제 DB

EU·미국 등 규제 정비 가속…"비기술적 언어로 설명할 의무 부과"

미국·유럽 등 주요국은 인공지능(AI) 규제 및 소비자 보호 기준을 강화하고 있다. 챗GPT 생성 이미지

이미 해외에서는 소비자 보호 장치를 마련하는 움직임이 뚜렷하다. 유럽연합(EU)은 인공지능규제법(AI Act)을 통해 보험료 산정이나 가입 심사 등 소비자에게 영향을 미칠 수 있는 AI의 판단 결과를 소비자가 이해할 수 있도록 투명성 요건을 강화하고 있다. 유럽보험연금감독청(EIOPA)은 지난해 발표한 'AI 거버넌스 및 리스크 관리에 관한 의견서'에서 AI의 판단 과정이 충분히 설명되지 않을 경우 편향 또는 차별적 결과로 이어질 수 있다고 경고했다. EIOPA는 "소비자에게 중대한 영향을 미치는 결정과 관련해 소비자가 요청할 경우 AI 시스템이 해당 결정에 미친 영향을 단순하고 명확한 비기술적 언어로 설명해야 한다"고 강조했다. 전문용어가 아닌 일반 소비자가 쉽게 이해할 수 있는 언어로 판단의 이유를 설명해야 한다는 취지다.

미국에서도 유사한 문제의식을 반영해 감독 기준을 정비하는 모습이다. 미국 보험감독당국 협의체인 전미보험감독관협의회(NAIC)는 보험사가 AI를 활용할 때 소비자 피해가 발생하지 않도록 리스크 관리 체계를 요구하는 가이드라인을 채택했다. 특히 콜로라도주는 AI 모델이 소비자에게 중대한 영향을 미치는 경우 기업에 위험 관리 및 영향 평가 의무를 부과하는 '콜로라도 AI법'을 오는 6월부터 시행할 예정이다. 이 법이 시행되면 보험금 지급 판단 시스템 등 소비자 권익과 직결된 AI 의사결정 도구들이 본격적인 규제 대상에 포함될 전망이다.

국내는 여전히 권고 수준…"알고리즘 '블랙박스' 해소 시급"

반면 국내 상황은 아직 걸음마 단계다. 금융감독원은 지난 1월 '금융 분야 AI 위험관리 프레임워크(AI RMF)' 가이드라인을 공개한 뒤 업권별 의견을 수렴하는 중이다. 이 가이드라인은 금융 AI 7대 원칙 중 '거버넌스 원칙'을 구체화한 것으로, AI 의사결정 기구와 위험관리 전담 조직, 위험 평가 및 통제 체계 등 내부통제 강화를 권고하는 수준이다. 문제는 해당 가이드라인만으로는 보험금 지급 여부나 AI 의사결정 근거 설명 의무 등을 강제하기 어렵다는 점이다. 보험사에 위험관리 시스템 구축에 대한 메시지를 전달하는 효과는 있지만, 실질적인 분쟁을 방지하기에는 규정이 정교하지 못하다는 것이 업계의 중론이다.

특히 장기보험이나 실손보험 분야에서의 '데이터 편향성'은 시급히 해결해야 할 과제다. 예를 들어 AI가 과거 통계만을 근거로 평균 재원일수를 초과한 입원을 '불필요한 입원'으로 판단할 경우, 임상적 상황이 무시된 채 보험금 지급이 거절될 위험이 상존한다. 이주열 남서울대 보건행정학과 교수는 "단순히 AI의 평가 점수를 보여주는 것이 아니라, 어떤 데이터가 결정적 요인으로 작용했는지 구체적인 인과관계를 중심으로 설명하는 체계가 필요하다"며 "보험 산업의 근본적인 신뢰를 유지하기 위해 지급 및 분쟁 영역에서의 경성규범 전환은 필수적인 안전장치가 될 것"이라고 조언했다.

설명요구권과 인적 재심사…소비자의 '왜'에 응답해야

AI를 활용한 보험금 지급 판정에 대해 경성규범을 도입할지를 두고 업계와 당국의 의견은 팽팽하게 맞서고 있다. 다만 학계와 업계, 감독당국 모두 알고리즘의 편향성을 막기 위한 ▲AI 보험금 지급 결정의 '근거' 제시 의무 ▲소비자 불복 시 '이의제기권' 보장 필요성에 대해서는 대체로 공감대를 형성한 상태다.

구체적인 도입 수위를 놓고는 입장 차가 뚜렷하다. 보험업계는 소비자 기본권과 직결된 사안에 한해 단계적으로 경성규범화를 검토해야 한다는 입장이다. 한 보험사 관계자는 "AI 심사 결과의 산출 근거가 불투명하면 소비자 수용성이 낮아져 민원이 발생할 소지가 크다"며 "판단 과정에서 어떤 지표가 결정적 영향을 미쳤는지 소비자가 이해할 수 있는 수준으로 설명하는 '알고리즘 투명성' 확보가 규제의 핵심이 돼야 한다"고 짚었다. AI의 심사 거부 시 사유 고지 의무와 가입자의 '인적 재심사 요청권' 보장을 경성규범으로 명문화해야 한다는 의견도 힘을 얻고 있다.

반면 감독당국은 법제화에 대해 신중론을 견지하고 있다. 금감원 관계자는 "국제 기준보다 앞선 강제적 경성규범 도입은 국내 금융사가 역차별을 받을 우려가 있다"며 "현재는 전 금융권의 AI 내부통제 프레임워크를 안정적으로 안착시키는 것이 우선"이라고 밝혔다.

결국 AI 도입이 가속화되는 흐름 속에 기술의 효율성과 소비자 권익 보호를 어떻게 병행할지가 보험업계의 핵심 과제로 남게 됐다. 손재희 보험연구원 연구위원은 "보험산업의 AI 전략이 단순한 도입 여부를 넘어 통제와 검증이 가능한 방식으로 책임 있게 운영하는 역량 확보로 옮겨가고 있다"며 "신뢰 확보를 위해 투명성·안전성을 기반으로 한 선제적 리스크 관리 체계를 구축할 필요가 있다"고 분석했다.