[이데일리 이소현 기자] 청소년들이 많이 이용하는 AI 캐릭터챗 서비스에서 보호 기능을 켠 상태에서도 자해·자살을 묘사하는 대화가 생성된다는 지적이 국정감사에서 제기됐다. 관련 민원 일부는 1년 넘게 처리되지 않은 것으로 나타나면서 청소년 보호장치와 정부 심의체계 모두 허점이 있다는 비판이 나왔다.
김선민 조국혁신당 의원이 12일 국회 국정감사에서 제기한
"세이프 모드 켰는데도 자살 대화"…AI 캐릭터챗 청소년 보호 '구멍'
청소년들이 많이 이용하는 AI 캐릭터챗 서비스에서 보호 기능을 켠 상태에서도 자해·자살을 묘사하는 대화가 생성된다는 지적이 국정감사에서 제기됐다. 관련 민원 일부는 1년 넘게 처리되지 않은 것으로 나타나면서 청소년 보호장치와 정부 심의체계 모두 허점이 있다는 비판이 나왔다.
댓글
0