[김기원의 작은 기원] 인간이 AI로 대체되는 지점

AI가 바둑처럼 사람 대체할 수 있나

법률 업무에서는 부정 전망 우세

바둑은 폐쇄 규칙 안에서 움직이지만

법률은 사실·거짓 얽힌 개방 영역이기 때문

효율성 수용해 공정성 확보 위한 고민해야

법원행정처는 지난 3월 31일 ‘AI 활용 허위 주장·증거 제출 대응 태스크포스(TF)’의 활동 결과를 발표했다. 발표에 따르면 소송 당사자나 대리인이 AI가 생성한 가짜 판례를 인용해 재판을 지연시키거나 불필요한 비용을 발생시킬 경우 재판부는 그 비용을 당사자에게 부담시킬 수 있고, 허위 내용이 담긴 서면에 대한 법정 진술을 제한하고 판결문에 해당 내용이 가짜임을 명시할 수 있다. 변호사가 AI 생성 자료를 검증 없이 제출한다면 대한변호사협회에 징계를 의뢰할 수도 있다. 한편 TF는 허위 법령 인용 시 과태료를 부과하고, AI 활용 사실을 법원과 상대방에게 고지하고 인용된 내용의 정확성을 확인하도록 의무화하는 내용의 민사소송법 및 민사소송규칙 개정을 제안했다.

법률 AI의 역할을 법조인의 업무 수행을 돕는 ‘조력’과 법조인의 역할을 대신하는 ‘대체’로 나눌 수 있다고 생각해 보자. 법률 업무에서 AI가 인간을 대체한다는 것은, AI의 결과물에 인간 법조인이 손을 댈수록 오히려 결과물의 수준이 확률적으로 낮아지는 상태에 도달함을 의미한다.

바둑 AI에서 인공지능이 인간을 대체한 상황을 볼 수 있다. 바둑 AI가 제시한 수는 절대적인 의미에서의 ‘최고의 정답’은 아닐 것이나, 인류 최고의 기사들이 모여 개입해도 확률적으로 승률을 개선하기 어렵다. 인간은 AI가 제시한 수를 개선하려는 시도를 포기했으며, 이 지점에서 AI는 실질적으로 인간 바둑기사를 완전히 대체했다. 법률 업무의 대체 역시 이와 같은 맥락에서 이해할 수 있다. 만약 AI가 내놓은 법률 의견을 법조인들이 모여 수정하려는 시도가 확률적으로 유의미하지 않다면 법률 업무는 AI에 의해 대체될 것이다.

하지만 법률 AI와 바둑 AI는 차이가 있다. 바둑은 361개의 교차점 중 하나에 순서대로 돌을 둬야한다는 규칙과, 승리 조건이 명확하여 ‘정량적으로 엄밀하며 폐쇄적인 세계’ 안에서 이루어진다. 반면 법률 업무는 ‘정성적이고 개방적’이다. ‘지구 위의 모든 시간과 장소에서 벌어진 일들을 AI가 모두 촬영·녹음하고 그 상호 관계를 정교하게 인식할 수 있는’ 수준의 디스토피아적 감시사회가 구축된다면, AI는 실시간으로 인간들의 모든 행위를 감시하며 위법행위를 실시간으로 인식할 가능성도 있을 것이다. 그러나 이러한 상상이 현실화될 가능성은 없는데, 인간은 행위의 내심의 의도를 인공지능에게 실시간으로 보고하지 않으며 지금처럼 거짓말을 할 것이기 때문이다. 결국 분쟁 사건이 발생하고 거짓이 섞인 진술들을 청취한 후에 상황을 불완전하게 판단해야 한다는 것은 인공지능도 같은 입장이다. 결국 법률 업무는 바둑판처럼 엄밀하고 폐쇄적인 세계 위에서 이루어질 수 없다. 법적 분쟁을 둘러싼 사실관계는 인간의 경험, 관련 자료, 상황의 인식을 나름의 관점으로 재구성하게 되며, 이를 AI에 전달하는 과정에서도 인간의 개입이 존재하게 된다. 이러한 요소들을 고려하면 AI는 상당한 시일이 흘러도 인간 법조인을 조력하는 역할에 머물 가능성이 크다.

그럼에도 AI의 발전이 법조인의 업무를 조력하는 수준을 높일 것임을 고려하여, 사회는 분쟁 해결의 정확성과 공정성을 높이기 위한 고민을 해야 한다. 분쟁 해결에 필요한 사실관계를 투명하게 공개하는 디스커버리 제도나, 모든 분쟁을 법률 전문가가 책임지고 검증하도록 하는 변호사강제주의 도입 등의 논의가 필요하다.

김기원 변호사(법무법인 서린)·서울지방변호사회 수석부회장