마이크로소프트(MS)의 AI 서비스 ‘코파일럿(Copilot)’을 둘러싸고 신뢰성 논란이 일고 있다. 생산성 혁신 도구로 홍보해온 것과 달리, 이용약관에서는 서비스가 ‘엔터테인먼트(entertainment)용’에 불과하다고 명시된 사실이 알려지면서다.
3일(현지시간) 톰스하드웨어에 따르면, 논란의 발단은 지난해 10월 조용히 업데이트된 코파일럿(Copilot) 이용약관이다.
이 문서에는 “코파일럿은 엔터테인먼트 목적을 위한 서비스이며, 오류를 발생시킬 수 있고 의도대로 작동하지 않을 수 있다. 중요한 조언에 의존하지 말고, 사용에 따른 책임은 전적으로 이용자에게 있다”라는 내용이 포함됐다. 또 코파일럿의 응답이 타인의 저작권이나 명예를 침해하지 않는다는 보장도 없다고 명시됐다.
이 같은 조항은 최근 소셜미디어를 통해 퍼져 나가며 비판받고 있다. 특히 기업과 개인의 생산성을 높이는 핵심 도구로 코파일럿을 강조해 온 MS의 마케팅 메시지와 정면으로 충돌한다는 지적이 나온다. 일부 이용자들은 “회사조차 정확성을 보장하지 않는다면 왜 신뢰해야 하느냐”라고 반문했다.
사실 이 같은 면책 조항은 AI 업계 전반에서 흔히 볼 수 있는 형태다. 예를 들어, xAI도 AI가 환각을 일으키거나 부정확한 정보를 생성할 수 있다고 명시하고 있다. 생성 AI가 확률적 방식으로 작동하는 만큼, 오류 가능성을 완전히 제거할 수 없기 때문이다.
문제는 이러한 한계에도 불구하고 AI를 ‘생산성 혁신 도구’로 강하게 밀어붙이고 있다는 점이다. MS는 코파일럿을 윈도우 11에 깊이 통합하고, 기업용 솔루션으로도 확장하며 활용도를 강조해 왔다. 하지만 약관에서는 여전히 “중요한 결정에 사용하지 말라”는 입장을 유지하고 있어 메시지 간 괴리가 드러난다는 지적이다.
MS는 이 표현이 과거 '빙(Bing)' 검색 보조 기능으로 시작된 초기 코파일럿의 ‘오래된 문구’라고 해명했다. 현재의 활용 방식과 맞지 않기 때문에 앞으로 업데이트에서 수정될 예정이라고 밝혔다.
박찬 기자 cpark@aitimes.com
댓글
0