AI 핵심 요약
beta- 덱스터스튜디오는 9일 복합 생성형 딥페이크 대응 사업에 참여했다
- 컨소시엄은 탐지 에이전트와 멀티 탐지 엔진을 개발한다
- 덱스터는 고품질 딥페이크 데이터셋을 제작해 취약점을 발굴한다
!AI가 자동 생성한 요약으로 정확하지 않을 수 있어요.
[서울=뉴스핌] 이나영 기자= 콘텐츠 전문기업 덱스터스튜디오가 과학기술정보통신부와 정보통신기획평가원(IITP)이 추진하는 '복합 생성형 딥페이크 대응을 위한 능동 탐지 및 심층 분석 솔루션 개발' 사업에 참여한다고 9일 밝혔다.
한국전자기술연구원이 주관하는 이 사업에는 한국과학기술원(KAIST), 국립과학수사연구원, 경찰대학, 세이프에이아이, 시큐어머신스랩이 함께한다. 얼굴 합성, 음성 변조, 배경 편집 등이 결합된 정교한 복합 변형 딥페이크에 대응하기 위한 것이다.
회사에 따르면 생성형 AI 기술의 고도화로 음성, 이미지, 영상 중 한 분야에만 특화된 단일 모델로는 고품질 신종 딥페이크를 탐지하기 어려워졌다. 컨소시엄은 딥페이크 콘텐츠의 특성을 AI가 스스로 파악해 최적의 분석 모델을 선택하는 능동형 '탐지 에이전트'와 음성·이미지·영상 탐지 역량이 통합된 '멀티 탐지 엔진'을 개발한다. 다중적인 탐지 결과를 종합해 위변조 여부와 판단의 근거까지 제시하는 심층 통합 솔루션이 핵심이다.
덱스터는 상업 영화 수준의 완성도를 가진 초고품질 얼굴 교체·미세 변형 딥페이크 데이터셋을 생성해 탐지 시스템의 한계를 시험하고 취약점을 발굴하는 'AI 레드팀' 역할을 한다.
대형 영화, 드라마, OTT 콘텐츠 등의 VFX 제작 과정에서 실제 인물의 얼굴 및 표정 교체, 정밀 디지털 휴먼 제작, AI 기반 리에이징 등을 구현해온 기술력을 활용한다. 개발된 솔루션은 국립과학수사연구원과 경찰대학을 통한 실전 환경 검증을 거쳐 성능 고도화가 진행될 예정이다.
덱스터 R&D연구소 송재원 소장은 "덱스터는 배우의 입모양을 다국어 더빙에 맞춰 수정하거나, 배우의 표정 연기를 그대로 유치한 채 다른 얼굴로 교체할 수 있는 시네마 레벨의 이미지 생성 기술을 다수 발전시켜 왔다"면서, "생성형 AI로 제작되는 신종 딥페이크의 위험성에 공감해 사업에 참여한 만큼, 국내 최고 수준의 딥페이크 데이터를 제작해 탐지 모델의 취약점을 지속 발굴하는 'AI 레드팀(AI Red Team)' 역할을 수행할 것"이라고 밝혔다.
nylee54@newspim.com
