99LAW, 앤드 법률사무소 정하연 대표변호사
[정하연 변호사의 스타트업 법률상식]
#1. 중소기업 대표 A씨는 최근 고객 클레임 전화를 받았습니다. 자사 홈페이지에 도입한 AI 챗봇이 환불 가능 기간을 잘못 안내했고, 고객은 그 안내를 믿고 기다리다 환불 기한을 놓쳤다는 것이었습니다.
#2. 또 다른 스타트업 대표 B씨는 AI 툴로 초안을 잡은 거래처 계약서에 위약금 조항이 빠진 것을 뒤늦게 발견했습니다. 계약은 이미 서명이 끝난 상태였습니다.
#3. 인사담당자 C씨는 더 심각한 상황을 겪었습니다. 업무 효율을 위해 해외 AI 툴에 직원 급여 데이터를 업로드했다가, 해당 서비스의 데이터 학습 정책을 뒤늦게 확인하고 등에 식은땀이 흘렀습니다.
세 가지 상황, 공통점이 하나 있습니다. AI가 했지만, 법적 책임은 사람(회사)에게 돌아온다는 것입니다.
◇“AI가 한 일”도 회사의 행위다=
현행 법체계에서 AI는 법적 주체가 아닙니다. AI 툴이 아무리 정교해도, 그것이 만들어낸 결과물에 대한 법적 책임은 해당 툴을 선택하고 운영한 회사에 귀속됩니다.
챗봇이 고객에게 잘못된 정보를 안내했다면, 이는 회사가 잘못된 정보를 안내한 것과 다르지 않습니다. 소비자분쟁 해결 기준이나 민법상 불법행위 책임에서 “AI가 그렇게 말했다”라는 항변은 면책 사유가 되지 않습니다. 특히 AI 챗봇을 공식 고객창구로 운영하고 있다면, 그 안내 내용은 회사의 공식 의사표시에 준하는 효력을 가질 수 있습니다.
AI가 작성한 계약서도 마찬가지입니다. 담당자가 최종 검토·서명했다면, 내용의 오류는 전적으로 서명 당사자의 책임입니다. “AI가 빠뜨렸다”라는 설명은 상대방에게도, 법원에도 통하지 않습니다.
◇AI 솔루션사에 책임 물을 수 있나=
억울한 마음에 “그러면 AI를 만든 회사 책임 아닌가요?”라고 묻고 싶을 수 있습니다. 현실적으로는 쉽지 않습니다.
대부분의 AI 솔루션 이용약관에는 결과물의 정확성을 보장하지 않는다는 면책 조항이 포함되어 있습니다. 특히 해외 서비스의 경우 준거법이 미국 혹은 EU법으로 지정되어 있어, 국내 기업이 소송을 제기하는 것 자체가 현실적으로 어렵습니다.
챗봇이 고객에게 잘못된 정보를 안내했다면, 이는 회사가 잘못된 정보를 안내한 것과 다르지 않다. AI가 작성한 계약서도 마찬가지다. 담당자가 최종 검토·서명했다면, 내용의 오류는 전적으로 서명 당사자의 책임이다. (이미지=클립아트코리아)
솔루션사에 책임을 묻기 위해서는 ①제품 자체에 결함이 있고, ②그 결함이 손해의 직접 원인임을 입증해야 합니다. 그러나 대부분의 AI 오류는 ‘툴의 결함’이 아니라 ‘사용 방식의 문제’로 해석될 가능성이 높습니다.
결국 실무에서는 솔루션사에 책임을 묻기 어려운 경우가 대부분입니다. 따라서 AI 툴 도입 시 이용약관 검토, 또는 AI가 작성한 계약서 등 법적 효력이 있는 문서를 활용할 때는 반드시 법률 전문가의 확인을 받는 것이 안전합니다.
◇개인정보 유출은 차원이 다른 문제=
AI 툴 활용 중 가장 심각한 리스크 가운데 하나는 개인정보 및 영업비밀의 의도치 않은 외부 유출입니다.
많은 기업들이 업무 편의를 위해 고객 데이터, 직원 정보, 거래처 자료를 AI 서비스에 그대로 붙여넣거나 업로드합니다. 그런데 일부 서비스는 입력된 데이터를 모델 학습에 활용하거나 제3자와 공유하는 정책을 운영하고 있습니다. 이용약관 수십 페이지 어딘가에 묻혀 있는 조항들입니다.
개인정보보호법상 개인정보를 제3자에게 제공하거나 국외로 이전하려면 원칙적으로 정보주체의 동의가 필요합니다. AI 툴에 고객 정보를 업로드하는 과정이 ‘제3자 제공’에 해당할 수 있고, 해외 서비스라면 ‘국외 이전’ 규정까지 적용됩니다. 이를 위반할 경우 과징금은 물론 형사처벌까지 가능합니다. “몰랐다”는 이유로 면책받기 어렵습니다.
◇지금 당장 점검해야 할 세 가지는=
첫째, AI 결과물에는 반드시 ‘사람의 최종 검토’ 단계를 두어야 합니다. 계약서, 공문, 고객 안내문 등 법적 효력이 있는 문서는 AI 초안을 그대로 사용하지 않는 것을 원칙으로 삼아야 합니다. 내부 규정으로 명문화해두면, 나중에 직원 실수와의 책임 구분에도 도움이 됩니다.
둘째, 사용 중인 AI 툴의 데이터 처리 정책을 확인해야 합니다. 특히 해외 서비스라면 ①입력 데이터의 학습 활용 여부, ②데이터 저장 위치(국내·해외), ③제3자 공유 여부를 반드시 확인해야 합니다. 개인정보가 포함된 데이터는 원칙적으로 AI 툴에 입력하지 않는 것이 안전합니다.
셋째, AI 툴 도입 시 계약서(이용약관)의 면책 조항을 꼼꼼히 읽어야 합니다. 솔루션사가 책임을 지지 않는 범위가 어디까지인지 파악하고, 그 공백을 자사 내부 프로세스로 메워야 합니다. 기업용 계약의 경우 면책 조항 수정 협상이 가능한 경우도 있습니다.
AI 도입은 이제 선택이 아닌 흐름이 됐습니다. 하지만 AI가 일을 잘못했을 때 “AI 때문에”라는 말은 법정에서도, 고객 앞에서도 통하지 않습니다. 현행 법체계에서 AI 활용에 따른 책임은 결국 이를 도입하고 운영한 회사, 그리고 실제로 활용한 직원에게 귀속될 가능성이 높습니다.
편리함을 취하는 만큼, 그에 따른 법적 책임도 함께 설계해야 합니다. AI 툴 도입 전 이용약관 검토, 내부 운영 규정 마련, 개인정보 처리 절차 점검 등은 직접 판단하기 어려운 영역이기 때문에 법률 전문가의 확인을 받고 진행하는 것이 가장 안전한 선택입니다.
(중기이코노미 객원=99LAW, 앤드 법률사무소 정하연 대표변호사)
정하연 객원기자
댓글
0