‘클린봇’ 기준 초과시 댓글창 폐쇄…혐오·차별 표현 탐지 확대
악성댓글 오프 기능. 연합뉴스
[서울이코노미뉴스 박희만 기자] 네이버가 악성 댓글이 일정 수준을 넘을 경우 뉴스 댓글을 자동으로 차단하는 정책을 도입하며 댓글문화 개선에 나섰다.
네이버는 23일부터 인공지능(AI) 기반 댓글 관리시스템 '클린봇'을 활용해 악성댓글이 일정기준을 초과한 기사에 대해 댓글서비스를 자동으로 비활성화한다고 밝혔다.
정치, 선거 섹션을 포함해 모든 섹션기사를 대상으로 인공지능 기반 탐지시스템 '클린봇'이 작동해 악성 댓글을 탐지한다.
클린봇이 욕설, 혐오, 차별, 비하 표현 등 악성 댓글을 탐지해 기준치를 넘는 경우 댓글 창 자체를 닫는 방식이다.
일정 기준을 초과할 경우 "클린봇이 악성 댓글을 다수 탐지하여 댓글 서비스를 제공하지 않습니다"라는 안내 문구와 함께 '그린인터넷' 캠페인 배너가 노출된다.
네이버는 지난 2019년 업계 최초로 AI 기반 악성 댓글 탐지시스템을 도입했다. 이후 지속적으로 기능을 고도화해 왔다.
최근에는 혐오·차별 표현 등 사회적 문제로 확산되는 악성 댓글 유형까지 탐지범위를 확대했다. 회사는 이달 말 AI 클린봇 모델을 업그레이드할 계획이다.
김수향 네이버 리더는 "네이버는 지난달 정치, 선거섹션 본문하단 댓글 미제공과 더불어 클린봇을 고도화하며 댓글영역이 건전한 소통의 장이 될 수 있도록 노력하고 있다"며 "앞으로도 다양한 의견을 청취하며 급변하는 악성댓글 표현에 대응할 수 있도록 서비스를 발전해 나가겠다"고 밝혔다.
한편 네이버는 지난 2월부터 재해·재난·부고 관련기사 중 고인·피해자의 2차 피해를 예방하면서도 추모와 공감의 마음을 표현할 수 있는 '추모 댓글'도 활발하게 운영 중이다.
현재까지 약 23개 언론사가 '추모 댓글'을 적극적으로 활용했다. 이용자는 버튼 클릭으로 '삼가 고인의 명복을 빕니다' 추모 댓글로 애도의 뜻을 전했다.
또한 4월 기준 추모 댓글이 가장 많이 작성된 기사의 조회수 대비 댓글 수 비율을 분석한 결과, 동일 언론사내 다른 기사에 비해 약 6배 이상 많은 댓글이 달렸다.
댓글
0