英 회계사 “AI 기반 재무 판단 따른 기업 손실 사례 목격”
챗봇 기반 재무계획…세제 오류·회계 기준 혼동 잇따라
투자·세무 등 고위험 금융 영역, AI ‘응답 제한’ 필요성 제기
◆…사진=클립아트코리아
인공지능(AI) 챗봇의 금융 조언을 그대로 의사결정에 반영한 기업들이 실제 손실을 겪는 사례가 늘고 있다. 의료 분야와 달리 금융 영역은 안전장치가 미비해 '규제 사각지대'에 놓여 있다는 지적이 나온다.
7일(현지시간) IT 매체 테크레이더는 영국 회계사와 부기 담당자 상당수가 AI 재무 조언으로 인해 기업이 실질적인 손실을 입은 사례를 확인했다고 보도했다.
로이드뱅크의 조사에 따르면 현재 약 2800만 명이 재무 관리에 AI를 활용 중인 것으로 나타났다.
문제는 범용 AI가 전문적인 금융 자문을 목적으로 설계된 시스템이 아니라는 점이다. AI는 기업의 재무 구조나 세무 의무 등 구체적인 맥락을 충분히 반영하지 못한 채 학습 데이터의 패턴에 기반해 답변을 생성한다.
이로 인해 겉보기에는 설득력 있어 보이지만 실제 상황과는 어긋난 판단이 제공될 가능성이 존재한다.
영국 회계법인 아제츠(Azets)의 알렉스 볼튼은 이를 두고 "의사를 찾아가는 대신 증상을 구글에서 검색하는 것과 같다"고 꼬집었다.
현장에서는 이미 부작용이 확인되고 있다.
재무 전문가들은 고객이 챗봇 기반으로 작성한 재무 계획을 그대로 가져오는 사례가 증가하고 있으며 이 과정에서 ▲최신 세제 개편 미반영 ▲세무 규정 오해 ▲비용 항목 오분류 등 다양한 결함이 발견되고 있다고 설명한다.
이러한 오류는 세금 부담 증가나 자본 손실로 이어질 수 있다.
책임 소재 또한 핵심 쟁점이다. 금융 자문사의 경우 법적 책임을 전제로 조언을 제공하지만 AI 기반 조언을 따를 경우 최종 책임은 사용자에게 남는다. 기업이 AI를 과도하게 신뢰할수록 그 리스크가 사용자 개인에게 집중되는 구조라는 비판이 제기되는 이유다.
이에 업계에서는 금융 분야에도 의료 수준의 안전장치가 필요하다는 목소리가 커지고 있다. 투자 전략이나 세무 판단 등 고위험 영역에서는 AI 응답 제한과 경고 시스템을 강화해야 한다는 주장이다.
댓글
0