캐나다 온타리오주 의료 현장에 도입된 AI 기록 도구에서 반복적인 오류가 확인됐다. [사진: 셔터스톡]
[디지털투데이 이윤서 기자] 캐나다 온타리오주가 승인해 의료 현장에 도입된 인공지능(AI) 진료기록 작성 시스템 20종 중 12종이 모의 진료 평가에서 실제 처방과 다른 약물명을 기록한 것으로 나타났다.
18일(현지시간) 온라인 매체 기가진에 따르면 온타리오주 감사총장실은 주 정부 AI 시스템을 점검한 결과, 의료기관용 AI 기록 도구에서 반복적인 중대 오류가 발견됐다고 밝혔다.
문제가 된 대상은 진료 중 의사와 환자의 대화를 녹음한 뒤 자동으로 진료 메모를 만드는 'AI 스크라이브'(AI Scribe) 시스템이다. 이번 감사는 승인된 20개 시스템을 대상으로 모의 진료 녹음을 들려주고 결과물을 비교하는 방식으로 진행됐다. 그 결과 12개 시스템이 다른 약물을 기재했고, 9개 시스템은 녹음에 없는 치료 계획서까지 만들어냈다.
반면 17개 시스템은 환자의 정신건강과 관련한 중요한 정보를 놓쳤다. 진료 메모 자동화가 입력 부담을 줄이는 도구로 도입됐지만, 약물명과 증상, 치료 방향 같은 기본 정보가 틀릴 경우 단순한 문서 오류를 넘어 실제 진료에 영향을 줄 수 있다는 점이 드러난 셈이다.
감사 보고서는 시스템 자체뿐 아니라 심사 방식에도 문제가 있었다고 지적했다. 온타리오주의 AI 의료기록 시스템 평가에서는 업체가 주내 거점을 두고 있는지 여부가 전체 점수의 30%를 차지했다. 반면 진료 메모 정확성은 4%, 편향 대응은 2%, 위협·위험·개인정보 평가는 각각 2%에 그쳤다. 감사 보고서는 이런 '부적절한 평가의 가중치' 때문에 부정확한 의료기록을 만들거나 민감한 건강정보를 충분히 보호하지 못하는 AI 도구가 선택될 수 있다고 경고했다.
운영 과정의 안전장치도 충분하지 않았던 것으로 나타났다. 온타리오주의 의료 IT 지원 조직 온타리오MD는 의사들에게 AI가 만든 메모를 수동으로 확인하라고 권고해 왔다. 하지만 승인된 시스템에는 의사의 최종 확인을 반드시 거치게 하는 기능이 없었다. 잘못 작성된 메모가 그대로 사용될 여지가 남아 있었던 셈이다.
다만 이번 감사는 승인된 AI 시스템을 모의 진료 녹음으로 검증한 결과다. 그럼에도 의료용 AI가 기본적인 진료 정보를 틀릴 수 있다는 점, 그리고 도입 전 심사와 도입 후 검증 체계가 이를 충분히 걸러내지 못했다는 점은 분명히 드러났다. 온타리오주 보건부 대변인은 AI 스크라이브 프로그램에 5000명 이상의 의사가 참여하고 있으며, 현재까지 이 기술과 관련한 환자 피해 보고는 확인되지 않았다고 밝혔다.
이번 감사 결과는 의료용 AI 도입에서 속도보다 검증 체계가 우선돼야 한다는 점을 보여준다. AI 스크라이브가 의료진의 행정 부담을 줄일 수는 있지만, 약물명과 치료 계획, 정신건강 정보처럼 진료 판단에 직접 연결되는 내용을 잘못 기록할 경우 환자 안전 문제로 이어질 수 있다.
이에 따라 의료용 AI 시스템에는 도입 전 정확성 평가와 편향·개인정보 보호 검증뿐 아니라, 실제 사용 과정에서 의사의 최종 확인을 강제하는 안전장치가 필요하다는 지적이 나온다. 온타리오주 사례는 의료 현장의 AI 활용이 확대되는 가운데, 자동화 편의성과 임상적 책임 사이의 균형이 핵심 과제로 떠올랐음을 보여준다.
댓글
0