[뉴스웍스=문병도 기자] 온라인 악성 댓글 문제가 갈수록 심각해지는 가운데 네이버가 AI 기술로 본격 대응에 나섰다.
경찰청 통계에 따르면 '사이버 명예훼손·모욕' 범죄는 2018년 1만5926건에서 2022년 2만9258건으로 4년 새 약 2배 가까이 증가했다. 악성 댓글의 피해는 일반인과 유명인을 가리지 않는다.기업도 예외가 아니어서, 악성 허위 댓글로 인해 업계 2위 기업이 매출이 90% 이상 급감하고 공장을 매각하는 등 존폐 위기에 몰린 사례도 있다.
네이버는 23일부터 악성 댓글이 일정 기준을 초과한 기사에 대해 댓글 서비스를 자동으로 비활성화하는 정책을 시행한다고 밝혔다.
정치·선거 섹션을 포함한 모든 섹션 기사를 대상으로 AI 기반 탐지시스템 '클린봇'이 악성 댓글을 탐지하며, 기준 초과 시 "클린봇이 악성 댓글을 다수 탐지하여 댓글 서비스를 제공하지 않습니다"라는 안내 문구와 '그린인터넷' 캠페인 배너가 함께 노출된다.
2019년 업계 최초로 도입된 클린봇은 욕설·선정적·폭력적 표현과 함께 혐오·비하·차별 표현 탐지 기능을 지속 업그레이드해왔다. 4월 말에는 AI 클린봇 모델 업그레이드도 예정돼 있다. 네이버는 지난달 정치·선거 섹션 본문 하단 댓글 미제공 조치도 시행한 바 있다.
네이버는 지난 2월 재해·재난·부고 관련 기사에 '추모 댓글' 기능도 도입해 운영 중이다. 현재까지 약 23개 언론사가 활용했으며, 추모 댓글이 가장 많이 작성된 기사는 동일 언론사 내 다른 기사 대비 댓글 수 비율이 약 6배 이상 높게 나타났다.
김수향 네이버 리더는 "댓글 영역이 건전한 소통의 장이 될 수 있도록 다양한 의견을 청취하며 서비스를 발전시켜 나가겠다"고 밝혔다.
댓글
0