“AI로 성착취영상 찾아 삭제신고까지 단 6분”

전국 최초 ‘AI 자동 삭제신고 시스템’
삭제 신고까지 기존 3시간→6분 단축

서울시가 온라인에 유포된 디지털 성범죄 영상을 인공지능(AI)으로 자동 탐지하고 삭제 신고까지 처리하는 시스템을 전국 최초로 도입했다.

서울시는 21일 서울연구원과 공동으로 개발한 ‘AI 자동 삭제신고 시스템’을 본격 운영한다고 밝혔다. 이 시스템은 AI가 24시간 온라인을 상시 모니터링하면서 디지털 성범죄 영상을 자동으로 검출하고, 증거를 수집해 삭제 요청 이메일을 작성하는 방식이다.

작성된 이메일은 서울시여성가족재단 산하 ‘서울디지털성범죄안심지원센터’ 소속 삭제 지원관이 최종 확인한 뒤, 영상이 게시된 국내외 사이트에 발송된다. 특히 서버가 해외에 있는 사이트 대응을 위해 영어, 중국어, 일본어 등 7개 언어로 자동 신고문을 생성한다.

서울시는 이 시스템 도입으로 삭제 신고까지 걸리는 시간이 기존 2시간 30분~3시간에서 약 6분으로 단축될 것으로 내다봤다. 그동안 삭제 지원관이 SNS, 온라인 커뮤니티, 불법 사이트 등을 직접 검색해 증거를 수집하고, 수작업으로 신고 문서를 작성해야 했지만, 자동화 시스템을 통해 약 30배 빠르게 처리할 수 있게 됐다는 설명이다.

서울디지털성범죄안심지원센터는 삭제 지원 외에도 수사·법률 자문, 심리치료, 의료 지원 등을 원스톱으로 제공하고 있다. 서울시에 따르면, 센터는 2022년 3월부터 2024년 3월까지 총 3650명의 피해자를 지원했으며, 이 중 10~20대가 가장 많은 비율을 차지했다. 특히 아동·청소년 피해자는 같은 기간 50명에서 624명으로 급증했고, 전체 피해자 중 아동·청소년 비율도 16.2%에서 22.1%로 올랐다.

센터는 카카오톡 오픈채팅 ‘디지털성범죄 SOS 상담’을 통해 익명 상담을 지원하고 있으며, 아동·청소년뿐 아니라 학부모 대상 심리치료도 무료로 제공하고 있다.

크게보기

인포그래픽. 서울시 제공