AI를 도입한 뒤 아동·청소년 성착취물 삭제 지원이 크게 늘었어요. 성평등가족부는 지난 4월 AI 탐지·신고 시스템을 도입한 결과, 종사자 1명이 하루에 처리하는 삭제 요청이 9.7배로 늘었다고 10일 밝혔어요.
정부는 이 시스템을 고도화하고, 지역 디지털성범죄피해자지원센터까지 넓혀 피해자 지원을 강화할 계획이에요.
AI 탐지 시스템, 어떻게 작동하나
AI가 SNS와 랜덤채팅앱 등에서 불법 촬영물과 유인 정보를 24시간 자동으로 찾아 분석해요. 담당자가 이를 검토한 뒤 유포 현황을 모니터링하고 삭제를 요청해요.
AI가 먼저 걸러내면서 종사자가 유해 영상에 직접 노출되는 일도 줄어, 피해자 지원 업무에 더 집중할 수 있게 됐어요.
도입 전후 삭제 지원 비교
| 구분 | 도입 전 | 도입 후 |
|---|---|---|
| 삭제 지원 건수 | 지난해 1년간 4만 5000여 건 | 6개월간 9만 6000여 건 |
| 종사자 1인당 일평균 처리 | 20.8건 | 202건(9.7배) |
| 불법촬영물 삭제 요청 처리 | 수작업 | 자동화, 건당 1분 이내 |
| 해외 기관 연계 | – | NCMEC·클라우드플레어 API 연계 |
내년 계획
탐지 플랫폼·정확도 확대
과학기술정보통신부와 협업해 내년까지 탐지 대상 플랫폼을 크게 늘리고, 대규모 데이터를 학습한 AI 모델로 판별 정확도를 높여요.
지역 센터에 설치형 소프트웨어 보급
중앙센터의 핵심 기능을 담은 설치형 삭제 지원 소프트웨어를 지역 센터에 보급해요. 피해자 민감정보를 외부로 보내지 않고도 분석과 삭제 요청을 할 수 있어요.
원민경 성평등부 장관은 최신 기술을 현장에 적극 도입해 피해자의 빠른 일상 회복을 돕겠다고 밝혔어요. 디지털 성범죄 피해 지원은 한국여성인권진흥원 중앙디지털성범죄피해자지원센터(02-6363-9301)에서 받을 수 있어요.
답글 남기기