성평등가족부가 디지털 성범죄 피해 영상을 인공지능(AI)이 실시간 탐지해 자동으로 삭제 요청까지 하는 시스템을 도입했다. 이를 통해 약 2만개 사이트에 대한 삭제 요청, 처리, 이력 관리 전 과정이 자동화된다. 건당 처리 시간은 1분 이내로 단축된다.
사진=성평등가족부
중앙디지털성범죄피해자지원센터의 삭제지원시스템은 미국 국립실종학대아동방지센터(NCMEC), 글로벌 콘텐츠 전송 네트워크(CDN) 사업자 클라우드플레어와 연계해 우회 접속 인터넷주소(URL)에 대한 대량 자동 삭제 요청도 가능해졌다.
연합뉴스에 따르면 성평등가족부는 이를 통해 기존의 수동적이고 사후적인 피해자 보호 방식의 한계에서 벗어나 디지털 성범죄 대응 속도와 정확도를 높였다고 설명했다. 사회관계망서비스(SNS)와 랜덤채팅앱에 떠도는 아동·청소년 성착취물이나 유인정보를 24시간 자동 수집해 신고와 삭제 요청까지 하는 '아동·청소년 온라인 성착취 선제 대응 시스템'도 도입됐다.
시스템에 적용된 AI 모델은 키워드 탐지, 이미지 내 텍스트 추출, 신체 노출도 판단, 유사 이미지 대조 등 분석을 거쳐 아동·청소년 성착취물 여부를 판단한다.
시범운영 결과 종사자 1인당 일평균 수집 건수는 아동·청소년 성착취물은 2.7배 이상, 성착취 유인정보는 80배 이상 증가한 것으로 나타났다.
정부는 시스템 본격 운영을 통해 아동·청소년 성착취물의 신속한 삭제를 지원할 방침이다. 성착취 유인정보는 신고와 함께 전문 상담원이 개입하는 '온라인 아웃리치'를 병행할 예정이다. 'AI 기반 딥페이크 탐지 솔루션' 도입으로 맨눈으로 판별하기 어려운 합성물을 식별해 추가 유포를 사전에 차단할 수 있게 됐다.
원민경 성평등가족부 장관은 AI 기술을 현장에 도입해 대응 속도와 정확도를 높이고 촘촘한 지원체계를 구축해 피해자의 신속한 일상 회복을 지원하겠다고 밝혔다.
댓글
0