금융감독원.
[디지털데일리 김남규기자] “AI가 금융소비자를 차별하거나, 챗봇이 틀린 답변을 내놓는 문제를 사전에 막아야 한다.”
금융감독원이 21일 금융회사 소비자보호 담당 임원(CCO)들을 불러 디지털금융 이용자 보호 강화를 주문했다. 금융서비스 대부분이 모바일 앱과 AI, 클라우드 등 IT 기반으로 운영되는 만큼 사고가 난 뒤 수습하는 방식으로는 부족하다는 취지다.
금감원은 이날 이종오 디지털·IT부문 부원장보 주재로 금융협회와 주요 금융회사 CCO 대상 간담회를 열었다. 참석 대상은 은행·금융투자·보험·여신 등 업권별 협회와 주요 금융회사 소비자보호 담당 임원들이었다.
금감원이 꼽은 위험 요인은 구체적이었다. AI가 카드 한도를 산정할 때 학습 데이터 편향 탓에 차별적 결과가 나올 수 있고, 온라인 대출상품 추천 과정에서는 소비자에게 유리한 금리보다 금융사 수수료에 유리한 상품이 먼저 노출될 수 있다는 것이다.
챗봇 상담도 도마에 올랐다. AI 상담원이 전면에 배치됐지만 정작 개별 민원을 처리하지 못하고, 인간 상담원 연결도 어려워 소비자 불편이 커질 수 있다는 지적이다. 고령층과 장애인 등 디지털 취약계층이 비대면 혜택에서 소외되는 문제도 함께 제기됐다.
금감원은 금융회사들이 IT 사고 발생 시 이용자 통지 절차와 대체수단, 피해보상 기준을 미리 마련해야 한다고 했다. AI 알고리즘을 도입할 때도 소비자에게 미칠 영향을 사전에 평가하고, 피해 발생 시 취소·보상 근거를 갖춰야 한다고 주문했다.
이 부원장보는 “디지털·AI 혁신으로 금융의 생산성과 편익이 높아진 것은 사실이지만, 이전에는 없던 새로운 이용자 불편 요인도 성장통으로 등장했다”며 “소비자보호 담당 임원이 회사 안에서 적극적인 조정자 역할을 맡아달라”고 말했다.
댓글
0