AI로 디지털성범죄 실시간 탐지·신고

성평등부, 자동화 시스템 도입

성평등가족부(성평등부)가 인공지능(AI)이 디지털 성범죄 피해 영상을 실시간으로 탐지해 자동으로 삭제 요청까지 하는 시스템을 도입했다고 1일 밝혔다. 성평등부는 삭제 요청 자동화와 함께 AI 기반 아동·청소년 온라인 성착취 선제 대응, AI 기반 딥페이크 탐지를 핵심 시스템으로 도입해 디지털 성범죄 피해자 보호에 나선다는 방침이다.

자동 삭제 요청 시스템으로 앞으로 약 2만개 사이트에 대한 삭제 요청, 처리, 이력 관리 등 모든 과정이 자동화된다. 건당 처리 시간도 1분 이내로 단축되면서 디지털 성범죄 피해자들에 대한 보호가 더욱 강화될 전망이다.

아동·청소년 온라인 성착취 선제적 대응 시스템은 국내 최초로 랜덤 채팅앱에 대한 데이터 자동 수집 기술이 탑재돼 기존 디지털 성범죄센터의 삭제지원 시스템과 연계해 성인 사이트에 대한 유포 현황 탐지도 가능해진다.

AI 기반 딥페이크 탐지 솔루션 도입도 이뤄지면서 육안으로 판별이 어려웠던 합성물도 명확하게 식별할 수 있게 됐다. 피해자가 인지하지 못한 합성물도 찾아내 추가 유포를 사전에 차단할 수 있을 전망이다.