온프레미스 방식으로 데이터 유출 차단
벡터 DB·RAG 결합해 환각현상 방지
서울아산병원이 폐쇄망 기반의 '프라이빗 AI 지식 검색 시스템'을 최근 구축했다 [사진=서울아산병원]
서울아산병원이 국내 의료기관 최초로 외부 인터넷망과 완전히 단절된 환경에서 구동되는 '프라이빗 AI 지식 검색 시스템'을 구축하고 가동을 시작했다고 18일 밝혔다. 이번 시스템은 외부 클라우드를 거치지 않고 병원 내부 서버에서만 인공지능(AI) 모델을 운용하는 방식으로, 환자의 진료 기록 등 민감한 의료 데이터의 외부 유출 우려를 원천 차단한 점이 특징이다.
철저한 보안이 필수적인 의료 데이터의 특성상, 기존 클라우드 기반 생성형 AI는 정보 유출 위험성 때문에 임상 현장 도입에 제약이 있었다. 서울아산병원은 이를 해결하기 위해 모든 서버와 데이터를 내부에서만 관리하는 '온프레미스(On-premise)' 방식을 채택해 클라우드 의존도를 없앴다. 특히 외부 솔루션 업체에 의존하지 않고 병원 내 IT 인력이 시스템을 직접 개발함으로써 독자적인 기술 자립도까지 확보했다.
기술적 핵심은 벡터 데이터베이스(DB)와 검색 증강 생성(RAG) 기술의 결합이다. 우선 벡터 DB가 병원 내 임상 가이드라인과 업무 규정 등의 방대한 문서를 의미 단위로 변환해 질문의 맥락에 맞는 내용을 수 초 내에 찾아낸다. 이어 RAG 기술이 AI로 하여금 반드시 데이터베이스 내 실제 문서만을 근거로 답변을 생성하도록 강제함으로써, 생성형 AI가 근거 없는 거짓 정보를 생성하는 '환각(Hallucination) 현상'을 구조적으로 차단했다.
의료진은 이 시스템을 활용해 매뉴얼 확인이 필요한 긴급 상황에서 질문 한 번으로 정확한 지침을 얻을 수 있게 됐다. 가령 패혈증 의심 환자가 발생했을 때 초기 대응 프로토콜을 질문하면 1시간 이내 시행해야 할 검사 리스트와 항생제 투여 지침을 즉각 제시하며, 답변 하단에는 해당 정보의 출처를 명시해 신뢰성을 높였다. 또한, 폐쇄망 환경의 특성상 외부의 최신 의학 정보를 실시간으로 반영하기 어려운 한계는 질문을 완전히 익명화하여 외부와 통신하는 '샌드박스형 외부 검색 엔진'을 별도로 운영해 보완할 계획이다.
김영학 서울아산병원 디지털정보혁신본부장은 "이번 시스템은 보안과 AI 활용이라는 두 가지 과제를 해결하며 폐쇄망 환경에서도 생성형 AI를 안전하고 온전하게 활용할 수 있음을 증명했다"며 "앞으로도 시스템을 지속적으로 고도화해 데이터 유출 우려가 없는 신뢰 기반의 디지털 의료 혁신을 선도해 나가겠다"고 말했다.
댓글
0