위험 신호 감지 시 이메일·문자·앱 알림 전송
국내 만 19세 이상 성인이면 설정 가능
개인정보 보호 위해 대화 원문은 비공개
◆…챗GPT에 '신뢰하는 사람' 기능 도입. 출처=오픈AI 홈페이지
앞으로 챗GPT가 자해나 극단적 선택 위험이 의심되는 대화를 감지하면 사용자가 미리 지정한 가족이나 친구에게 경고 알림을 보내게 된다.
8일(현지시간) IT매체 더버지에 따르면 오픈AI는 최근 챗GPT에 '안심 연락처(Trusted Contact)' 기능을 추가했다.
해당 기능은 사용자가 설정을 통해 직접 활성화해야 하는 '옵트인(Opt-in)' 방식으로 운영된다. 성인 사용자(국내 기준 만 19세 이상)는 계정 설정에서 지인이나 가족 등 1명을 안심 연락처로 지정할 수 있다.
상대방이 일주일 이내에 초대장을 수락하면 기능이 활성화된다. 양측 모두 언제든 설정을 해제하거나 수정할 수 있다.
시스템은 단계별 검토 절차를 거쳐 작동한다. 챗GPT 자동화 시스템이 대화 중 자해나 자살 관련 위험 신호를 포착하면 우선 사용자에게 안심 연락처에 도움을 요청하도록 권고하고 알림 전송 가능성을 안내한다.
이후 특별 교육을 받은 안전 검토 인력이 상황을 다시 검토한다. 실제 심각한 안전 우려가 있다고 판단될 경우에만 안심 연락처로 이메일, 문자 메시지, 앱 알림 등이 발송된다.
오픈AI는 개인정보 침해 우려에 대해 "알림은 제한적으로 제공된다"며 "사용자의 구체적인 대화 원문이나 기록 전문은 안심 연락처와 공유되지 않는다"고 강조했다.
다만 이용자가 다수의 계정을 생성해 규제를 우회할 수 있는 데다 기능 활성화 자체가 선택 사항이라는 점은 여전히 한계로 지적된다.
한편 오픈AI는 챗GPT와 관련한 극단적 선택 논란으로 유족들의 잇단 소송에 휘말린 상태다. 일부 소송에서는 챗GPT가 이용자의 극단적 선택을 부추기거나 구체적인 계획 수립을 도왔다는 주장도 제기됐다.
댓글
0