[경일춘추]AI시대 살아남기

전지혜 법무법인(유한)바른 변호사

전지혜 법무법인(유한)바른 변호사

AI 기술이 급격하게 전방위로 확산하고 있다. 법조계도 예외는 아니어서, AI 기술 활용 능력이 점점 중시되고 있다. 이미 ‘법률 특화용 LLM’(법률 문서·판례·법령 등 법률 도메인 데이터에 집중해 사전학습·파인튜닝을 거친 언어)모델이 상용화 중이고, 유명 대형 로펌에서는 자체 모델 개발·상품화를 추진 중이기도 하다. 법률 검토, 서면 작성 등 업무 전반에 AI 기술이 활용되면서 이전에 비해 업무 효율성이 향상됐다는 긍정적 의견이 다수다.

하지만 변화의 속도만큼이나 부작용도 있다. AI 기술에 거의 모든 일을 맡겨놓고 그 결과물에 대한 검수마저 하지 않은 결과, 최종 산출물에서 치명적 오류(hallucination)가 발견되는 것이다.

실제 지난해 형사재판에서 변호사가 AI를 사용해 작성해 제출한 의견서에 인용된 판결 5개가 실존하지 않는 가짜 판결인 사실이 재판부에 의해 발각돼 논란이 됐다. 또한 수사기관인 경찰이 작성한 불송치 결정서에 인용된 내용이 실제 해당 판결에는 없는 것이어서 AI가 만든 잘못된 정보를 그대로 옮긴 것이 아니냐는 의혹이 제기된 사건도 있다. AI가 작성해 준 내용을 그대로 옮긴 서면에서 허위의 법률 조문, 판결 또는 부적절한 판결례 등이 포함된 사실이 발견돼 제출 전 급히 수정했다는 이야기 정도는 그렇게 놀랍지도 않은 수준이다.

이러한 일련의 사태들을 보고 있노라면, AI 기술의 불완전성도 문제지만 그 불완전성의 위험을 실현·심화시킨 데는 이용자 개인의 ‘경솔함’이 크게 작용했다고 본다. AI 기술의 출현 전·후로 법률 관련 지식이나 정보 자체에 큰 변화가 있었던 것은 아니다.

따라서 그 밖의 다른 조건이 동일하다면 기술의 도입 이후 산출물의 정확도는 더 낮아질 수 없다. 그런데도 산출물에 치명적 오류가 종종 발견되고 있다면 이는 기술 이외 다른 곳에 문제가 있음을 뜻한다. 그리고 필자는 그 문제가 개인의 너무나도 가벼워진 책임감과 사명감에 있다고 생각한다.

이러한 기술 이용자 개인의 책임감 부재는 비단 법조계만의 문제가 아니다. AI 기술의 출현으로 적지 않은 직업들이 소멸할 것이 예상되고 있다. 다만, 우리 스스로가 기술이 주는 편리성에 빠져 사람만이 할 수 있는 사고(思考) 즉, 인간성(人間性) 발현에 나태해지고 있지는 않은지, 그 결과 인간 스스로 설 자리를 점점 좁혀가고 있는 것은 아닌지 생각해 볼 문제다. 조금은 수고스럽고, 다소 구식으로 보일지언정 고민의 끈을 놓지 말자고 다짐해 본다.