AI 핵심 요약
beta- 성평등가족부가 1일 AI 활용 디지털 성범죄 대응 체계를 구축했다.
- 삭제요청 자동화와 아동·청소년 성착취물 선제 대응, 딥페이크 탐지 기술을 도입했다.
- 기존 사후 대응 한계를 극복해 처리 속도와 정확도를 높였다.
!AI가 자동 생성한 요약으로 정확하지 않을 수 있어요.
AI 온라인 성착취물 실시간 탐지·신고, 속도·정확도 강화
[서울=뉴스핌] 황혜영 기자 = 성평등가족부가 인공지능(AI) 기술을 활용한 디지털 성범죄 대응 체계를 구축하고 피해자 중심의 신속·선제적 보호 시스템을 본격 가동한다고 1일 밝혔다.
이번에 도입된 시스템은 ▲삭제요청 자동화 ▲AI 기반 아동·청소년 온라인 성착취물 선제 대응 ▲AI 기반 딥페이크 탐지 등 '3대 핵심 기술'이 적용된 것이 특징이다.
성평등가족부는 이를 통해 기존의 수동적·사후적 대응의 한계를 극복하고 대응 속도와 정확도를 대폭 높였다고 밝혔다.
우선 '피해영상물 삭제요청 자동화시스템'은 약 2만 개 사이트를 대상으로 삭제요청부터 처리이력 관리까지 전 과정을 자동화했다. 건당 처리 시간은 기존 수 분에서 1분 이내로 단축됐다.
또 중앙디지털성범죄피해자지원센터(중앙 디성센터) 시스템을 미국 국립실종·학대아동방지센터(NCMEC)와 글로벌 CDN 업체 클라우드플레어(Cloudflare)에 API로 연계, 우회 접속 URL까지 자동 삭제요청이 가능하도록 했다.
구글과 전기통신사업법 관련 신고 양식 역시 자동 작성·발송이 가능해졌으며, 종사자의 심리적 부담을 줄이기 위해 미국 NCMEC 사례를 참고한 '회색조 촬영물 필터' 기능도 도입됐다.
'아동·청소년 온라인 성착취 선제 대응 시스템'은 AI가 SNS(소셜네트워크서비스)나 랜덤채팅앱에서 성착취물 및 유인정보를 24시간 자동 탐지·분석해 즉시 신고 및 삭제를 요청한다.
특히 국내 최초로 랜덤채팅앱 데이터를 자동 수집할 수 있는 기술이 적용됐으며 기존 삭제지원시스템과 연계해 성인사이트에 대한 유포 현황도 실시간 파악이 가능하다.
AI 모델은 키워드 탐지, 이미지 내 텍스트 추출, 신체노출도 및 연령 추정, 유사 이미지 분석 등 다단계 절차를 거쳐 성착취물 여부를 판별한다.
시범운영 25일간 종사자 1인당 일평균 수집 건수는 아동·청소년 성착취물의 경우 2.7배, 유인정보는 80배 이상 늘어났다.
또한 AI 기반 딥페이크 탐지 솔루션 도입으로 합성물 식별 정확도를 높였다. 온라인 모니터링 중 의심 영상이 발견되면 해당 솔루션으로 진위를 즉시 판별해 피해자가 인지하지 못한 합성물까지 조기에 찾아내 추가 확산을 차단할 수 있다.
원민경 성평등가족부 장관은 "기술 발전에 따라 진화하는 디지털 성범죄에 맞서 더 강력하고 신속한 대응이 필요한 시점"이라며 "AI 기술을 현장에 본격 도입해 대응 속도와 정확도를 높이고 촘촘한 지원체계를 구축하여 피해자의 신속한 일상 회복을 위해 앞장설 것"이라고 전했다.
hyeng0@newspim.com
