개별 검증 통과해도 '복합 워크플로'선 신뢰도 곤두박질
전문가들 "인간-AI 협업 성과 측정하는 새 규제 틀 시급"
의료 AI 정확도 90%, 함께 쓰면 74%로 왜 추락하나
이미지 확대보기
앞 단계 AI가 잘못된 데이터를 내보내도 뒤 단계 AI는 그 값이 신뢰할 수 없다는 사실을 걸러낼 수단이 없다.. 공학 분야에서 '오류 전이(error propagation)'라 불리는 현상으로, 앞선 결함이 다음 단계 결함을 증폭시키는 구조다. 이미지=제미나이3
국내 병원에
AI
진단 보조 시스템 도입이 빠르게 늘고 있다
.
그런데 정작 현장 의료진 사이에서는
"
믿고 쓰기 어렵다
"
는 목소리가 끊이지 않는다
.
개별 테스트에서
90%
를 웃도는 정확도를 자랑하는
AI
도구들이 실제 진료 흐름에 들어서는 순간 왜 신뢰도가 뚝 떨어지는 걸까
.
미국 매체 악시오스
(Axios)
가 지난
댓글
0