[서울=뉴스핌] 이경화 기자 = 서울시는 검출된 불법 영상을 AI(인공지능)가 자동으로 삭제 신고까지 지원하는 'AI 자동 삭제신고 시스템'을 개발·실행에 들어간다고 21일 밝혔다. 

서울시는 디지털 성범죄 예방을 위해 2023년 3월 서울연구원과 협력해 '디지털 성범죄 AI 삭제지원 기술'을 개발했으며, 서울 디지털성범죄 안심지원센터에서 24시간 불법 영상물 감시를 실시하고 있다.

AI 자동 삭제신고 시스템은 필요한 영상을 6분 내에 삭제 신고할 수 있게 하며, AI가 영상 검출부터 삭제 요청 이메일까지 자동으로 생성한다. 이번 시스템은 멀티모달 대형언어모델과 웹 자동화 도구를 결합해 디지털 성범죄물의 탐지부터 채증, 문서화, 이메일 생성에 이르는 전 과정을 자동화했다. 

[인포그래픽=서울시]

서울 디지털성범죄 안심지원센터는 '전기통신사업법'의 신고 기관으로 지정 고시돼, 불법촬영물 삭제 요청이 있을 경우 법적 절차에 따라 해당 사이트의 삭제 조치를 취해야 한다.

기술 도입 이전에는 수작업으로 채증·보고서 작성을 진행했으나, 이제는 AI를 통해 처리 속도가 30배 개선될 것으로 기대된다. 자동으로 생성되는 보고서는 필요한 법적 증거자료로 즉시 사용될 수 있다.

최근에는 피해 영상물이 해외에 서버를 둔 사이트에 올라오는 사례가 증가함에 따라, 시는 AI가 해외에 유포된 피해 영상물을 검색 후 영어, 중국어, 일본어, 러시아어 등 7개 국어로 신고 이메일을 생성하도록 해 국가 기반을 넓혀 검색 영역을 확장했다.

시는 2023년 AI 삭제지원 기술을 도입하면서 디지털 성범죄 예방과 피해자 지원에 있어 패러다임의 전환을 이뤄냈다는 평가를 받고 있다. 

이 기술이 도입되면서 비디오, 오디오, 텍스트 3종 종합분석을 통해 키워드 입력부터 영상물 검출까지 불과 3분 정도밖에 걸리지 않아 삭제지원관이 평균 2시간이 소요됐던 것에 비해 검출 속도가 97.5%가 단축되고, 정확도도 200% 이상 향상됐다. 

안심지원센터 운영실적 [자료=서울시]

센터는 2022년 3월부터 2025년 3월까지 3년간 3650명의 피해자를 지원했고, 지원 건수는 총 6만4677건에 이른다. 특히 아동·청소년 피해자는 증가 추세를 보이고 있다. 센터의 상담·지원 시스템은 익명성을 보장한다.

도움이 필요한 디지털 성범죄 피해자 누구나 센터 상담전용 직통번호 815-0382(영상빨리)나 누리집(www.8150382.or.kr)으로 문의하면 된다.

김선순 여성가족실장은 "서울시는 전국 최초로 AI를 통한 모니터링 기술을 도입한 데 이어, 이제 AI가 자동으로 삭제 신고까지 하는 기술을 도입함으로써 검출부터 삭제 신고까지 걸리는 시간을 획기적으로 단축시킬 것으로 기대하고 있다"며 "앞으로도 디지털 성범죄로부터 아동·청소년이 안전한 서울을 만들기 위해 최선을 다하겠다"고 말했다. 

kh99@newspim.com