[서울=뉴스핌] 양태훈 기자 = 한국인터넷자율정책기구(KISO)는 22일, 네이버·카카오·SK커뮤니케이션즈(SK컴즈) 등 포털 회원사들과의 협력을 통해 지난해 '청소년 보호 검색어' 데이터베이스에 110개의 새로운 검색어를 추가했다고 밝혔다.

KISO는 특히 '딥페이크'와 같은 AI 기술과 관련된 검색어들을 새롭게 포함시켰다. 네이버, 카카오, SK컴즈 등 포털 3사는 KISO와 공동으로 청소년 보호 검색어 데이터베이스를 구축하고 관리하고 있다. 현재 약 5만1000개의 검색어가 포함된 DB를 운영 중이며, 지속적인 업데이트와 조정을 통해 최신 상태를 유지하고 있다.

KISO 자율규제DB위원회는 더 이상 유해하지 않은 검색어를 DB에서 제거하는 심의 작업도 병행하고 있다. 청소년 보호 검색어로 지정되면 해당 검색어 입력 시 청소년에게 부적합한 검색 결과의 노출이 제한된다. 일반 이용자는 연령 확인 절차를 거쳐 해당 결과를 확인할 수 있다.

한국인터넷자율정책기구 로고. [사진=한국인터넷자율정책기구]

지난해 KISO가 추가한 검색어에는 불법 촬영물, 성착취 관련 검색어, 마약류 매매, 신종 불법 사기대출 관련 검색어 등이 포함됐다. AI 관련 검색어로는 '지인능욕', '지인합성' 등 딥페이크와 관련된 검색어가 주목된다. 또한, 성인 콘텐츠 노출을 유도하는 '언드레스(undress)' 애플리케이션 관련 검색어도 청소년 보호 검색어로 선제적으로 지정됐다.

'언드레스'는 일반적으로 편안한 옷을 의미하는 단어이나, 최근 사진 속 인물의 옷을 벗기는 딥페이크 애플리케이션과 연관되어 악용될 우려가 높아졌다. 이러한 애플리케이션의 유해성을 고려하여 청소년 보호 검색어에 추가된 것은 의미 있는 조치로 볼 수 있다.

황용석 KISO 자율규제DB위원회 위원장은 "딥페이크와 관련된 검색어 추가는 초상권 침해, 명예훼손, 기타 형법적 문제를 줄이고, 성적 착취나 폭력으로의 연결 가능성을 예방하기 위한 필요한 조치"라며, "미국에서도 AI 관리 및 감독, 특히 아동과 청소년 보호가 중요한 이슈로 다뤄지고 있는 점을 고려하여, KISO와 회원사들이 선제적으로 대응하고 있다"고 전했다.

dconnect@newspim.com