인공지능(AI) 챗GPT의 개발사인 오픈AI가 AI 챗봇과의 성적인 대화를 허용하는 '성인 모드' 출시 방침을 고수하면서 논란이 이어질 전망이다.
사진=AFP/연합뉴스
연합뉴스에 따르면 월스트리트저널(WSJ)이 전문가들 의견을 인용해 AI 성인 모드가 사용자의 비정상적인 몰입을 유발하거나, 미성년자를 제대로 보호하지 못할 거라고 지적했다. 오픈AI가 직접 구성한 '웰빙·AI 자문위원회' 위원들은 지난 1월 회의에서 AI 성인 모드 도입에 한목소리로 반대 의견을 밝혔다.
성인 모드가 사용자의 정서적 의존도를 지나치게 심화시키고, 심리적 불안을 조장할 수 있다는 점에서다. 특히 한 위원은 AI 사용자가 챗봇과의 대화 끝에 극단적 선택을 한 사례를 언급하며 "오픈AI가 '매혹적인 자살 코치'를 만드는 위험을 자초하고 있다"고 주장했다.
앞서 미국 플로리다주의 14세 소년 슈얼 세처는 지난 2024년 말 AI 스타트업인 캐릭터.AI 챗봇과의 대화를 거쳐 스스로 목숨을 끊었고, 당시 세처의 어머니는 챗봇이 자살을 부추겼다며 개발사를 상대로 소송을 제기한 바 있다.
AI 성인 모드가 도입될 경우 미성년자의 접근을 실질적으로 차단하기 어려울 거란 우려도 나온다. 실제로 오픈AI의 사용자 연령 예측 시스템은 내부 개발 과정에서 오류 비율이 12%에 달한 것으로 알려졌다.
만약 이러한 오류 비율이 개선되지 않는다면 약 1억명에 달하는 18세 미만 챗GPT 사용자 중 수백만 명이 성인 콘텐츠에 무방비로 노출될 수 있다고 WSJ은 지적했다.
오픈AI는 이러한 기술적 문제 등을 고려해 올해 1분기로 예정됐던 성인 모드 출시를 일단 연기했지만, 출시 계획은 그대로 유지한다는 입장이다. 성인 모드를 출시하더라도 텍스트 대화 외에 성적인 이미지·영상 생성 기능은 제한할 방침이라고 덧붙였다.
기자의 다른기사
보기
저작권자 © 싱글리스트
댓글
0