서울시가 자체 개발한 ‘디지털성범죄 AI 삭제지원’ 기술을 전국에 무상 보급한다.
피해자 보호 기술을 서울에 국한하지 않고 전국 어디서나 활용할 수 있도록 개방하는 ‘기술의 공공재화’ 모델을 본격 추진하는 것이다.
서울시는 3일 첫 무상 기술이전 계약을 시작으로, 기술 도입을 원하는 정부기관·지자체·기업 등에 해당 AI 삭제기술을 무상으로 제공한다고 밝혔다.
이 기술은 2023년 서울시와 서울연구원이 전국 최초로 독자 개발했으며, 현재 ‘서울 디지털성범죄 안심지원센터’(서울시여성가족재단 운영)를 통해 활용되고 있다.
■ 처리시간 30배 단축, 정확도 최대 300% 개선
서울시가 개발한 AI 삭제지원 기술은 24시간 실시간 모니터링을 통해 SNS와 각종 불법 사이트에 유포된 성착취물과 불법 촬영물을 자동 탐지한다.
기존에는 사람이 직접 검색·신고해야 했지만, AI 도입으로 탐지부터 삭제까지 걸리는 시간이 3시간에서 6분으로 대폭 단축됐다.
처리 속도는 약 30배 빨라졌고, 검색 정확도는 200~300% 향상됐다.
특히 기존 방식으로는 놓치기 쉬웠던 폐쇄형·신규·해외 불법 사이트까지 자동 탐지할 수 있어 사각지대를 크게 줄였다.
영상·음성·텍스트 3종 통합 분석을 통해 복제본과 변형본, 제3자 제공물까지 식별 가능해졌으며, 딥페이크 영상 탐지도 가능해졌다.
또한 안면·객체 인식 기술을 활용해 동일 피해자의 다수 촬영물을 자동으로 묶어 탐지할 수 있어 삭제 지원의 범위가 획기적으로 확대됐다.
■ 삭제지원 건수 4년 만에 6배 증가
AI 기술 도입 이후 ‘서울 디지털성범죄 안심지원센터’의 삭제지원 건수는 2022년 2,509건에서 2025년 15,777건으로 4년 만에 6배 이상 증가했다.
이는 사람이 찾지 못했던 신규 불법 사이트와 숨겨진 영상까지 AI가 자동 탐색·확장 검색으로 찾아낸 결과다.
서울시는 해당 기술을 전국적으로 보급할 경우 기관당 약 1억 8천만 원의 예산 절감 효과도 있을 것으로 보고 있다.
더불어, 반복적으로 피해 영상을 확인해야 했던 상담·삭제지원 인력의 심리적 부담을 줄이는 효과도 기대된다.
■ 국내 최초 특허 등록… 해외 협력도 추진
해당 기술은 2023년 정부혁신 우수사례 ‘대통령상’, 2024년 ‘UN공공행정상’을 수상하며 국내외에서 우수성을 인정받았다.
전국 최초 기술 특허 등록도 완료했다.
서울시는 무상 기술 보급을 특정 지역에 한정하지 않고 공익 목적에 한해 폭넓게 지원할 방침이다.
향후 해외 비영리 기관과의 협력도 추진해 디지털성범죄 대응을 국제적으로 확산한다는 계획이다.
오균 서울연구원장은 “전국 최초 특허를 받은 혁신기술을 무상 개방하는 첫 사례”라며 “피해자 보호 현장에 실질적인 변화를 만들어낼 것”이라고 밝혔다.
마채숙 서울시 여성가족실장은 “피해자 보호 기술을 서울의 전유물이 아닌 공공의 안전을 위한 공공재로 확장하는 데 큰 의미가 있다”며 “전국 어디서나 동일한 수준의 신속하고 실질적인 지원이 이뤄지길 기대한다”고 말했다.
[출처: 서울시]
카카오톡 기사제보 바로가기 ↓
){kind=small}
){kind=small}
){kind=small}
){kind=small}