[서울=뉴스핌] 이영기 기자 = 세계 최대 소셜미디어 페이스북(Facebook)이 '딥페이크'(Deepfake)로 알려진 조작 동영상 게시를 금지한다. 딥페이크란 인공지능(AI) 기술로 영상과 음성을 조작해 가짜 영상·음성을 만들어 내는 행위를 말한다.

7일(현지시간) 월스트리트저널(WSJ)등 현지 언론 보도에 따르면, 페이스북은 이날 이용자들이 컴퓨터로 제작했거나 고도의 기술로 조작된 딥페이크 동영상이 올라올 경우 이를 삭제하겠다고 밝혔다.

기존에도 이미지·동영상 조작은 있었으나 딥페이크는 AI를 활용해 감쪽같이 조작이 이뤄지면서 진위를 가리기가 매우 어렵고 특히 2020 대선을 앞둔 미국에서는 선거 결과에 영향을 미칠 수 있다는 우려가 크기 때문이다.

딥페이크 동영상을 금지하면 다른 사람의 동영상에 대통령 후보의 얼굴을 합성해 실제로 하지 않은 발언이나 행동이 있었던 것처럼 꾸민 동영상이 유포되는 것을 막을 수 있다.

페이스북은 또 AI 같은 기술로 동영상에 다른 콘텐츠를 합성·교체·첨가해 사람들을 오해하게 만드는 콘텐츠도 삭제할 계획이다.

다만 페이스북의 조치는 모든 조작된 동영상을 금지하는 것은 아니다. 풍자나 소설과 영화 등에 대한 패러디를 위해 조작된 동영상은 금지 대상에서 빠진다. 또 일부 내용을 생략하거나 어순을 바꾸기 위해 편집한 동영상도 예외로 인정된다.

따라서 지난해 유포되며 논란이 된 낸시 펠로시 미 하원의장이 술에 취해 말하는 것처럼 편집된 동영상은 새 금지 규정에 저촉되지 않는다며 삭제하지 않을 것이라고 페이스북은 밝혔다.

민주당의 유력 대선 주자인 조 바이든 전 부통령의 선거 캠프 관계자는 페이스북이 딥페이크를 다루는 방식이 부적절하며 개선됐다는 환상만 심어준다고 주장한 바 있다.

페이스북의 글로벌 규정관리 담당 부사장 모니카 비커트는 "이런 동영상은 여전히 인터넷상에 드물지만, 이들의 사용이 점차 늘면서 우리 산업계와 사회에 중대한 도전을 던지고 있다"고 말했다.

비커트는 미 하원이 개최하는 '디지털 시대의 조작과 기만'을 주제로 한 청문회에 증인으로 출석할 예정이다.

007@newspim.com