[사설] PwC 보고서에도 'AI 환각'…검증 소홀하면 재앙 될 수도

세계 4대 회계·컨설팅 기업인 PwC가 발간한 보고서에서 ‘인공지능(AI) 환각’으로 추정되는 오류가 발견돼 망신을 샀다. 파이낸셜타임스(FT) 보도에 따르면 PwC 중동법인이 지난 2년간 발간한 보고서 중 4건에서 부실한 각주와 잘못 인용된 주장, 확인할 수 없는 출처가 다수 발견됐다. 인용자료 상당수가 실제 근거를 제시하지 못했고, AI가 지어낸 것으로 추정되는 학술논문까지 출처로 제시됐다고 한다.

AI가 사실과 다른 정보를 그럴듯하게 제시하는 AI 환각의 문제점은 오래전부터 지적돼왔다. 그런데 기업들에 AI 도입과 활용 방안을 조언하는 컨설팅 기업이 잇달아 AI 환각의 함정에 빠져 문제를 일으켰다는 점에서 충격적이다. 딜로이트는 호주 정부에 제출한 보고서에 존재하지 않는 각주와 참고문헌을 담았다가 계약금 일부를 돌려줬다. EY와 KPMG도 보고서에 오류가 발생해 철회한 적이 있다. 4대 회계·컨설팅 기업 모두 같은 논란에 휘말린 것은 단순 부주의나 관리 소홀로 치부하기 어렵다. 업계 전반의 내부 검증 시스템에 구멍이 뚫렸다고 봐도 무리가 없을 것이다.

최근 AI 성능이 크게 개선되고 있지만 환각 현상은 구조적 한계로 존재한다. 문제는 AI 환각이 해프닝에 그치지 않고 사회적·경제적·법적 리스크를 야기할 수 있다는 점이다. 캐나다 항공사 에어캐나다는 AI 챗봇이 잘못 안내한 환불 규정 때문에 법적 배상 책임을 져야 했고, 미국 법원에선 AI가 지어낸 가짜 판례를 인용한 변호사를 징계하는 일도 벌어졌다. 국내에서는 AI가 제시한 잘못된 답변만 믿고 경찰서 등 공공기관에 무리한 민원을 제기하는 사례가 늘고 있다.

AI는 기업에서 필수 도구로 자리잡았고, 행정·법률·의료 분야 활용도 늘고 있다. 아무리 뛰어난 AI라 할지라도 결국 최종 책임은 인간에게 있다. AI의 편의성과 효율성 뒤에 숨은 환각의 함정을 경계하지 않는다면 더 큰 비용을 치를 수 있다는 점을 인식해야 한다. 정부도 AI 도입 속도전에만 골몰할 것이 아니라 검증 체계 마련 등 부작용을 최소화할 정책을 고민해야 할 것이다.