[서울=뉴스핌] 최원진 기자= 중국 당국이 세계 최초로 '딥페이크'(Deepfake)에 대한 포괄적인 규제를 오는 10일부터 시행하면서 국제사회의 이목이 집중되고 있다고 월스트리트저널(WSJ)이 8일(현지시간) 보도했다.
보도에 따르면 중국 국가인터넷정보판공실은 인공지능(AI) 기반의 이미지·오디오·텍스트 생성 소프트웨어를 포함한 '딥 합성'(deep synthesis) 관리 규정을 10일부터 시행한다.
딥페이크란 '딥러닝'과 '페이크'의 합성어로, 특정 인물의 얼굴과 음성 등을 AI기술을 이용해 특정 영상·사진에 합성한 편집물이다. 세계 유명인들의 얼굴을 음란물에 합성하거나 영상 속 정치인들의 목소리를 편집해 거짓 정보를 유포하는 등 악용되는 사례가 많아 AI 기술 중에서도 논란이 가장 크다.
중국 당국이 지난달 11일 홈페이지에 공표한 '인터넷정보서비스 심층종합관리규정' 내용에 따르면 "불법적이고 유해한 정보를 생산·복사·출판 및 유포하거나, 타인의 신분을 위조해 명예를 훼손하는 사기 행위"에 딥페이크 기술을 쓰는 것은 원천 금지된다.
딥페이크 기술로 편집하려면 당사자의 동의를 구해야 하고, 구체적으로는 딥페이크 기술을 활용한 업체·개인·연구기관 등 단체는 해당 기술을 사용한 콘텐츠라는 워터마크 표식을 달아야 하며 원본을 추적할 수 있게 해야 한다.
WSJ는 "중국의 새로운 규정이 원하는 효과를 얻을지가 세계 규제 당국자들의 이목을 집중시킨다"고 진단했다. 그간 미국 의회에서도 딥페이크 남용과 유포 문제 해결을 시도했지만 표현의 자유 우려로 가로막혔고, 유럽연합(EU)도 콘텐츠 플랫폼 업체들에 딥페이크에 따른 거짓정보 확산을 저지할 방안을 모색할 것을 요구하는 등 소극적인 대응에 그쳤다는 설명이다.
중국의 디지털 정책을 추적하는 '디지차이나 프로젝트'를 운영하는 미 스탠퍼드대학의 그레이엄 웹스터 박사는 "중국은 딥페이크의 잠재적인 영향을 전 세계와 함께 알아가고 있지만 규정과 집행 면에서 다른 국가보다 더 빨리 움직이고 있다"며 "세계인들이 지켜볼 것"이라고 평가했다.
일각에서는 중국의 규제 조치가 첨단 기술 분야에서도 언론을 통제하려는 당국의 노력에 불과하다는 비판의 목소리도 나온다. 비영리 인권단체 '위트니스'의 샘 그레고리는 "딥페이크의 부정적인 영향을 최소화하기 위한 규제 여야지, 정치적 풍자 등 표현의 방식을 억압하는 것이 되선 안 된다"며 "(중국의 새 규제는) 폭 넓은 딥페이크 기술 활용을 담고 있어 풍자적 표현은 용납하지 않겠다는 바가 명확하다"고 주장했다.
wonjc6@newspim.com
