= 챗 GPT로 생성된 AI 이미지
[이코리아] 생성형 인공지능(AI) 활용이 일상화되면서 이용자들이 AI와 나눈 대화가 법정에서 증거로 활용되는 사례가 국내외에서 잇따르고 있다. 개인적인 고민을 털어놓거나 간단한 조언을 받기 위한 AI 대화가, 오히려 당사자의 의도와 인식을 드러내는 증거로 작용하는 것이다.
로이터는 현지시간 15일, 사람들이 조언을 구하기 위해 AI에 점점 더 의존함에 따라 미국 법조계에서 관련 경고가 확산되고 있다고 보도했다. 일부 변호사들은 의뢰인들에게 자유나 법적 책임이 걸린 사안에서는 AI 챗봇을 신뢰할 만한 상담 상대처럼 여겨서는 안 된다고 조언하고 있는 상황이다.
이 같은 분위기는 실제 판결을 계기로 더욱 확산됐다. 미국 뉴욕 남부연방법원은 지난 2월 금융 사기 혐의를 받는 기업 임원의 형사 사건에서 AI 챗봇을 활용해 작성된 문서의 제출을 명령했다. 해당 사건은 파산한 금융서비스 기업과 관련된 사기 혐의로 기소된 피고인이 AI를 활용해 방어 전략을 정리한 자료를 둘러싼 분쟁이었다.
재판을 맡은 제드 라코프(Jed Rakoff) 판사는 AI 플랫폼과 사용자 간에는 변호사-의뢰인 관계가 성립하지 않는다고 판단했다. 이에 따라 AI를 통해 생성된 문서나 대화는 수사기관이나 소송 상대방이 요구할 경우 공개 대상이 될 수 있다는 해석이 나왔다.
로이터는 이와 관련해 주요 로펌들이 고객들에게 ▲AI에 민감한 정보를 입력하지 말 것 ▲법률 자문은 반드시 변호사를 통해 받을 것 ▲AI 활용 시 기록이 남는다는 점을 전제로 행동할 것 등을 안내하고 있다고 전했다. 일부 로펌은 계약서에 “AI 플랫폼에 정보를 공유할 경우 비밀유지 특권이 훼손될 수 있다”는 문구를 명시하기 시작한 것으로 알려졌다.
한편 이러한 흐름은 국내에서도 나타나고 있다. 수사기관이 피의자의 AI 대화 내역을 범행의 고의성이나 동기를 판단하는 정황 증거로 활용하는 사례가 점차 늘어나는 모습이다.
대표적으로 올해 초 화제가 된 강북 약물 연쇄살인 사건사건에서는 피의자가 생성형 AI에 약물의 치사량과 위험성 등을 반복적으로 문의한 기록이 확인되면서 수사에 활용됐다. 해당 사건에서 경찰은 피의자가 “수면제와 술을 함께 복용하면 어떻게 되는가”, “얼마나 먹으면 위험한가” 등의 질문을 남긴 점에 주목했고, 이를 범행의 사전 인식과 고의성을 판단하는 정황 중 하나로 반영했다.
당초 상해치사 혐의가 적용됐던 사건은 이러한 정황을 포함한 종합 판단을 거쳐 살인 혐의로 변경됐다. 법조계에서는 AI 대화가 일반 검색 기록과 달리 문장 형태로 남는 만큼, 이용자의 의도와 사고 과정이 보다 구체적으로 드러난다는 점에 주목하고 있다.
또한 일선 변호사들 사이에서는 의뢰인 상담 과정에서 AI 대화 내역을 사전에 확인하는 사례도 늘고 있는 것으로 알려졌다. 변호사와의 대화는 법적으로 보호받을 수 있지만, AI와의 대화는 그렇지 않을 가능성이 크기 때문이다.
한편 AI 대화 기록의 활용이 확대되면서 프라이버시 침해와 제도 공백에 대한 우려도 제기되고 있다. AI와의 대화에는 개인의 건강 상태, 경제 상황, 인간관계 등 민감한 정보가 광범위하게 포함될 수 있는 만큼, 수사 과정에서 어디까지를 수집·활용할 수 있는지를 둘러싼 기준이 명확하지 않다는 지적이다.
또 AI 대화 기록은 대부분 해외 서버에 저장되는 구조로, 원본 데이터 확보와 동일성 입증 문제도 주요 쟁점으로 꼽힌다. 법조계에서는 해당 기록이 간접 증거로서 의미를 가질 수는 있지만, 그 자체만으로 범죄의 고의나 사실관계를 단정하는 데에는 신중한 접근이 필요하다는 의견도 나온다.
법무법인 비트의 안일운 변호사는 16일 <이코리아>와의 통화에서 “AI와의 대화 내역 역시 일정한 요건을 갖추면 민·형사 소송에서 충분히 증거로 활용될 수 있다”고 설명했다. 안 변호사는 “기존에도 검색 기록이나 메신저 대화 등이 수사와 재판에서 증거로 사용돼 온 만큼, AI 대화 역시 같은 맥락에서 볼 수 있다”며 “범죄 실행 전 관련 내용을 AI에 문의한 기록이 있다면 고의성을 뒷받침하는 정황으로 활용될 가능성이 있다”고 말했다.
AI 대화 기록의 신뢰성 문제와 관련해서는 “해외 서버에 저장된다는 점이 쟁점으로 지적되지만, 이는 기존 검색 기록 등과 본질적으로 크게 다르지 않다”며 “실무에서는 원본 서버보다는 이용자의 기기에 남아 있는 기록을 중심으로 확인하는 경우가 많다”고 설명했다.
다만 AI 특성에 따른 해석상의 주의 필요성도 언급했다. 안 변호사는 “AI는 이용자의 질문 의도에 따라 답변을 확장하는 경향이 있어, 대화 과정에서 의도나 고의성이 과장돼 보일 가능성도 있다”며 “수사기관이나 법원이 이러한 특성을 고려해 증거를 해석할 필요가 있다”고 덧붙였다. 이어 “현행 법 체계로도 AI 대화 기록을 충분히 다룰 수 있는 구조”라면서도 “새로운 제도 도입보다는 기존 기준 안에서 신중한 해석과 적용이 중요하다”고 말했다.
댓글
0