디지털 성범죄 피해 영상을 인공지능[AI]이 실시간 탐지해 자동으로 삭제요청까지 하는 시스템을 도입했다고 성평등가족부가 1일 밝혔다.
AI가 24시간 탐지·신고하는 시스템을 통해 약 2만개 사이트에 대한 삭제요청, 처리, 이력 관리 모든 과정이 자동화되며 건당 처리 시간은 1분 이내로 단축된다.

중앙디지털성범죄피해자지원센터의 삭제지원시스템을 미국 국립실종학대아동방지센터[NCMEC], 글로벌 콘텐츠 전송 네트워크[CDN] 사업자 클라우드플레어와 연계해 우회 접속 인터넷주소[URL]에 대한 대량 자동 삭제요청도 가능해졌다.
SNS, 랜덤채팅앱에 떠도는 아동·청소년 성착취물 등을 24시간 자동 수집해 신고와 삭제요청까지 하는 ‘아동·청소년 온라인 성착취 선제 대응 시스템’도 도입되며 시스템에 적용된 AI 모델은 키워드 탐지, 이미지 내 텍스트 추출, 신체 노출도 판단 등 분석을 거친다.

시범운영 결과 종사자 1인당 일평균 수집 건수가 아동·청소년 성착취물은 2.7배 이상, 성착취 유인정보는 80배 이상으로 대폭 증가해, 기존의 수동적이고 사후적인 피해자 보호 방식의 한계에서 벗어나 디지털 성범죄 대응 속도와 정확도를 대폭 높였다고 성평등부는 설명했다.