[더퍼블릭=유수진 기자] 인공지능(AI) 활용이 확산되는 가운데, 의료 분야에서 AI의 오진 가능성이 높다는 연구 결과가 나왔다. 특히 환자 정보가 충분하지 않은 상태에서 AI가 의학적 질문에 답할 경우, 오진율이 최대 80%에 달하는 것으로 나타났다. 사용자가 불완전하거나 잘못된 정보를 제공하면 AI의 판단이 왜곡될 수 있다는 점도 지적됐다.
15일자 <조선일보> 보도에 따르면, 미국 하버드대 의대 연구팀은 챗GPT와 구글AI '제미나이‘, 클로드 등 21개의 최신 거대언어모델(LLM)의 진단 능력을 평가한 결과를 발표했다.
연구에 따르면 증상과 징후를 바탕으로 가능한 질환을 추려내는 ‘감별 진단’ 단계에서 실패율은 약 80%에 달했다. 반면 추가 검사 결과가 주어진 뒤 내려지는 ‘최종 진단’의 실패율은 절반 수준으로 낮아졌다. 이는 AI가 충분한 정보가 주어질 경우 높은 성능을 보이지만, 실제 의료의 출발점인 ‘불확실한 상태에서의 판단’에는 취약하다는 점을 보여준다.
연구팀은 “AI는 데이터가 충분할 때는 정확한 진단을 내릴 수 있지만, 정보가 부족한 초기 단계에서는 한계를 드러낸다”며 “의료진의 개입 없이 환자 스스로 의사결정을 맡길 수준에는 아직 이르지 못했다”고 설명했다.
이 같은 한계는 학술지 ‘네이처 메디슨’ 2월호에 실린 AI 헬스케어 안전성 연구에서도 확인됐다. 유니버시티 칼리지 런던 연구진은 챗GPT 기반 의료 상담 시스템을 활용해 경증부터 응급 상황까지 총 60개 환자 시나리오에 대해 1000개의 응답을 생성하고, 이를 실제 의사의 판단과 비교 분석했다.
분석 결과, 즉시 병원 방문이 필요한 사례의 51.6%에서 AI는 “집에서 기다리거나 일반 진료를 예약하라”고 안내한 것으로 나타났다. 반대로, 비교적 안전한 상태의 환자 중 64.8%에게는 “즉시 의료기관을 방문하라”고 권고하는 등 판단의 일관성이 떨어지는 모습을 보였다. 다만 뇌졸중이나 심각한 알레르기 반응처럼 전형적인 응급 상황에서는 비교적 정확한 대응을 보였다.
이에 알렉스 루아니 UCL 건강 허위정보 연구자는 “AI는 믿기 어려울 만큼 위험할 수 있다”며 “특히 잘못된 안도감이 가장 우려된다. 천식 발작이나 당뇨 위기 상황에서 ‘48시간 기다리라’는 조언은 생명을 위협할 수 있다”고 경고했다.
아울러 이용자와 AI 간 상호작용 자체가 오진 가능성을 높일 수 있다는 점도 지적됐다. 사용자가 제공하는 정보가 불완전하거나 부정확할 경우, AI 역시 이를 바탕으로 잘못된 판단을 내릴 수 있기 때문이다.
더퍼블릭 / 유수진 기자 sjn3022@thepublic.kr
댓글
0