AI 기반 악성 댓글 탐지 시스템 클린봇', 정치·선거 포함 전 섹션 적용
'클린봇'이 적용된 네이버 뉴스 댓글창. 사진=네이버
네이버가 악성 댓글이 일정 기준을 넘는 기사에 대해 댓글 서비스를 자동으로 중단한다.
네이버는 23일부터 전 섹션을 대상으로 이 같은 내용의 댓글 운영 정책을 시행한다고 밝혔다.
대상은 정치·선거 섹션을 포함한 전체 뉴스 기사다. 인공지능(AI) 기반 악성 댓글 탐지 시스템인 '클린봇'이 욕설, 혐오, 비하, 차별 표현 등을 탐지해 기준치를 넘으면 댓글창을 비활성화한다.
댓글이 중단된 기사에는 "클린봇이 악성 댓글을 다수 탐지하여 댓글 서비스를 제공하지 않습니다"라는 문구와 함께 '그린인터넷' 캠페인 배너가 노출된다.
네이버는 2019년 업계 최초로 선보인 인공지능 기반 악성 댓글 탐지 시스템 '클린봇'을 도입한 후 욕설, 선정적, 폭력적 표현과 함께 혐오, 비하, 차별 표현 등을 학습하며 이를 업그레이드 하고 있다. 4월 말 AI 클린봇 모델 업그레이드도 준비 중이다.
한편 네이버는 지난 2월 재해·재난·부고 관련 기사 중 고인과 피해자의 2차 피해를 예방하면서도 추모와 공감의 마음을 표현할 수 있는 ‘추모 댓글’ 기능도 도입했다.
네이버에 따르면 현재까지 23개 언론사가 추모 댓글 기능을 활용하고 있다. 또한 4월 기준 추모 댓글이 가장 많이 작성된 기사의 조회수 대비 댓글 수 비율을 분석한 결과, 동일 언론사 내 다른 기사에 비해 약 6배 이상 많은 댓글이 달렸다.
김수향 네이버 리더는 "네이버는 지난달 정치, 선거 섹션 본문 하단 댓글 미제공과 더불어 클린봇을 고도화하며 댓글 영역이 건전한 소통의 장이 될 수 있도록 노력하고 있다"라며 "앞으로도 다양한 의견을 청취하며 급변하는 악성 댓글 표현에 대응할 수 있도록 서비스를 발전해나가겠다"라고 말했다.
댓글
0