[한국지방정부신문=김미숙 기자] 서울특별시(시장 오세훈)가 디지털 성범죄에 대한 인공지능(AI)을 활용한 온라인 성착취 영상 검출부터 삭제신고까지의 전 과정을 자동화한 시스템을 전국 최초로 본격화한다. 

서울시는 2023년 3월 ‘디지털 성범죄 AI 삭제지원 기술’을 도입한 데 이어 올해는 ‘AI 자동 삭제신고 시스템’을 구축해, 검출된 불법 영상을 AI가 스스로 채증·보고·신고 이메일 작성까지 수행하도록 완전 자동화했다.

전문가들은 “서울시의 AI 자동 삭제신고 시스템은 디지털 성범죄 대응에서 세계적 벤치마크가 될 것”이라고 전망했다. 빠른 신고·삭제, 강력한 법적 권한, 피해자 보호 기능이 유기적으로 결합됐기 때문이다.

서울시의 이번 정책은 단순한 기술 도입을 넘어, 피해자 중심의 섬세한 지원과 법적 실효성을 결합한 혁신적 ‘안전망 구축’으로 평가받고 있다. 이제 디지털 공간에서도 ‘안전하고 존엄한 삶’을 보장하는 새로운 이정표가 서울에서 쓰이기 시작했다.

2~3시간 걸리던 신고 절차, ‘단 6분’으로 단축한 기술적 도약

기존에는 피해 영상물을 확인한 후 삭제지원관이 수작업으로 채증 사진을 캡처하고, 보고서를 작성한 뒤 해당 사이트에 신고 이메일을 작성·발송하는 데 평균 2~3시간이 소요됐다.

그러나 새 시스템이 가동되며 검출부터 삭제 신고까지 걸리는 시간은 불과 ‘6분’에 불과해, 피해 확산을 원천적으로 차단할 수 있는 대응 속도가 획기적으로 향상되었다.

이 같은 속도 개선은 단지 시간 단축에 그치지 않는다. 빠른 조치로 인해 영상 유포 경로가 빠르게 끊기고, 피해자가 느낄 불안과 트라우마가 크게 완화된다.

또, 삭제 요청이 신속히 반영될 가능성도 높아져 결국 디지털 성범죄에 대한 사회적 경각심을 더욱 강화하는 계기가 된다.

멀티모달 AI · 웹 자동화 결합으로 실현, ‘교차검증 없는’ 전 과정 관리

새 시스템의 핵심은 이미지·텍스트를 동시에 이해하는 멀티모달 대형언어모델(MLLM)과, 반복 작업을 대신 수행하는 셀레니움 기반 웹 자동화 툴의 결합이다.

시스템은 24시간 내내 AI가 소셜미디어, 온라인 커뮤니티, 불법 사이트를 실시간으로 감시하며 의심스러운 영상물을 즉시 탐지한다.

탐지된 영상은 곧바로 스크린샷과 URL, 게시 일시 등 핵심 증거가 자동으로 수집되어 한글(HWP) 문서 형식의 채증 보고서로 즉시 변환한다.

이후에는 각 플랫폼이 요구하는 신고 양식에 맞춰 AI가 다국어 이메일을 자동으로 작성해 삭제 요청을 준비하므로, 담당자는 최종 확인만 거쳐 발송하면 된다.

이 과정을 거치면 삭제지원관이 일일이 확인하고 클릭하던 단계가 사라진다. 담당관은 최종 검토만 하면 돼, 업무 효율은 껑충 뛰고, 반복되는 피해 영상 노출로 인한 심리적 부담도 크게 줄어든다.

해외 서버 유포물까지 타깃...7개 국어로 삭제 요청, 글로벌 대응력 강화

최근 중국·러시아·베트남 등 해외 서버에 저장된 불법 영상물이 급증하는 추세를 반영해, 시스템은 영어·중국어·일본어·러시아어 등 총 7개 국어로 신고 내용을 작성한다.

이로써 국내 플랫폼뿐 아니라 해외 사이트까지 동시에 타깃으로 삼아, 불법 영상물의 국경을 넘는 유통망을 한 번에 차단할 수 있다.

서울시는 이 기능을 통해 “디지털 성범죄 대응의 글로벌 스탠다드를 선도하게 될 것”이라고 자신감을 드러냈다.

법적 권한과 결합된 AI 솔루션...신속한 강제 삭제로 실효성 확보

‘서울 디지털성범죄 안심지원센터’는 ｢전기통신사업법｣ 제22조의5에 따라 공식 삭제 신고 기관으로 지정된 곳이다.

AI가 작성한 신고 이메일이 접수되면 해당 사업자는 즉시 게시물 삭제·접속 차단 조치를 해야 하며, 이를 어길 경우 3년 이하 징역 또는 1억 원 이하 벌금 등 무거운 제재가 뒤따른다.

이처럼 강제성을 담보한 법적 기반 위에 AI 기술이 더해지면서, 신고 후 실제 삭제로 이어질 확률이 비약적으로 높아진다. 이는 곧 ‘말뿐인 예방책’이 아닌, 실질적이고 지속 가능한 피해 차단 메커니즘의 완성을 의미한다.

1년 만 검출속도 97.5% 단축 · 삭제 지원 468% 증가...성과로 입증된 혁신성

AI 도입 첫해(2023년)에는 키워드 입력부터 영상 검출까지 걸리는 시간이 평균 3분으로 줄어들며, 기존 처리 속도보다 97.5% 단축됐다.

실제로 삭제지원 건수는 도입 전 2,509건에서 14,256건으로 468% 증가해, 명실상부 ‘성과형’ 정책으로 자리매김했다.

이 같은 성과는 기술적 우수성을 넘어, 피해자 관점에서의 체감 효과를 극대화했다는 점에서 더 큰 의미를 갖는다.

원스톱 지원과 AI가 만나 3년간 3,650명 피해자 지원...아동 · 청소년 보호 집중

‘서울 디지털성범죄 안심지원센터’는 법률·심리·삭제지원을 하나로 엮은 원스톱 서비스를 제공해, 개관 3년간 총 3,650명의 피해자를 도왔다.

특히 아동·청소년 피해는 2022년 50명에서 2024년 624명으로 급증했는데, 센터는 무료 익명 상담창구를 통해 온라인 그루밍 등 신종 범죄에도 발 빠르게 대응 중이다.

AI 자동화 시스템은 피해 상담·처리 과정에서 발생할 수 있는 2차 트라우마를 줄이고, 피해자가 ‘신고 절차’에 매몰되지 않고 빠른 치유에 집중할 수 있게 돕는다.

향후 서울시는 이 모델을 전국 지방정부로 확산하고, 공공기관·민간 플랫폼의 협업 체계를 강화해 ‘디지털 성범죄 제로(Zero)’를 목표로 하고 있다. 또한 관련 데이터와 노하우를 글로벌 기구와 공유해, 국제 사회에서 디지털 성범죄 예방 표준을 제시하겠다는 구상도 밝힌 상태다.