중국어로 된 텔레그램 채팅방에서 영상 나돌아
AI 딥페이크 기술 탑재된 프로그램 구매 유도
정부, 국제사회 대응 나서고 있지만 대책 없어
[세종= 뉴스핌] 이경태 기자= #춤을 추고 있는 K-POP 아이돌 여성그룹의 무대영상 가운데 리더 1명을 나체로 전환시킨 콘텐츠가 최근 소셜네트워크서비스(SNS)를 통해 불특정 다수에게 유포되고 있다. 기존에는 나체 영상에 연예인의 얼굴을 합성한 방식이었지만, 이번에는 실제 영상을 나체 영상으로 전환시키는 딥페이크 기술이 적용되어 충격을 주고 있다(아래 사진 참고).
이같은 방식의 인공지능(AI) 콘텐츠 전환 기술이 확대될 경우, 자칫 K-콘텐츠 시장 전체가 뿌리째 흔들릴 수 있을 것이라는 우려의 목소리도 나오고 있다.
20일 <뉴스핌>의 취재 결과, 유명 SNS 채팅 서비스인 텔레그램의 한 채팅방에서 다수의 나체 전환 영상이 공유됐다. 이 영상이 공유된 채팅방의 제목은 중국어로 'AI 누드 춤 맞춤 제작'에 관한 내용이다.
이 텔레그램방에서는 수십개의 영상이 일방적으로 공개됐다. A 아이돌 그룹 4~5명이 군무를 하는 상황에서 특정 아이돌 멤버만 나체로 전환한 영상이 공유되는가 하면, 일반 공연에서의 직캠 영상도 그대로 나체 영상으로 전환됐다.
 |
| 텔레그램 채팅방에서 중국발 딥페이크 기술로 만든 한 K-POP 아이돌 그룹의 나체 영상이 유포되어 논란이 되고 있다. [사진=텔레그램 채팅방 캡쳐] 2024.06.20 biggerthanseoul@newspim.com |
최근 음원 순위 상위권을 지키고 있는 여자 아이돌 그룹의 대다수 공연 영상이 나체로 전환됐다. 해당 채팅방의 운영자는 기존에 공유된 나체 영상에 대해 본인이 맞춤 제작한 영상이라는 점을 강조했고, 실제 판매되는 프로그램을 소개하기까지 했다.
며칠 동안 영상이 게재된 해당 채팅방은 최근 게시물을 올리지 못하게 차단된 상태다. 다만 여전히 채팅방 입장은 가능하다. 현재 1만7000명에 가까운 이용자들이 채팅방 멤버로 표시되고 있다. 문제는 기존의 딥페이크 기술이 상당 수준으로 진화됐다는 데 있다.
한 AI업계 관계자는 "기존에는 딥페이크를 활용해 누드 영상에 나오는 배우의 얼굴을 유명인의 얼굴로 바꾸는 방식이었는데, 이번에는 기존 영상에서 유명인의 몸을 나체로 전환하기 때문에 콘텐츠 시장에 미치는 영향이 상당할 것"이라고 우려했다.
그는 "그동안 할리우드 유명인에 대한 딥페이크가 문제였다면, K-POP 아이돌의 인기가 상승하면서 이들이 나오는 대부분의 영상이 나체로 전환되기 때문에 아이돌의 이미지에도 상당한 타격을 입힐 수 있을 것"이라고 덧붙였다.
일각에서는 인기를 얻고 있는 K-드라마, 영화 등 모든 분야에서 특정 인물만 나체로 전환하기 때문에 K-콘텐츠 산업을 뒤흔들 수 있는 파장이 있을 것으로 내다보기도 한다.
더구나 일반인의 피해도 예고되는 상황이다. 최근 숏폼 형태로 유명한 춤을 추고 SNS에 게재하는 일명 '커버댄스' 콘텐츠가 인기지만 이같은 영상도 나체 전환 기술의 먹잇감이 될 것으로 보인다.
유튜버 A씨는 "사실상 콘텐츠를 올리는 것 자체가 불안한 상황"이라며 "누군가 내 영상을 나체 영상으로 전환해서 나를 협박한다면 속수무책으로 피해를 입을 수밖에 없을 것 같다"고 전했다.
 |
| K-POP 아이돌 그룹의 나체 전환 영상이 유포된 텔레그램 채팅방 [자료=텔레그램 캡쳐] 2024.06.20 biggerthanseoul@newspim.com |
이런 상황에서 정부나 수사기관의 대응방안은 여의치 않다.
과학기술정보통신부는 올해 AI기본법을 마련했으나 21대 국회에서 끝내 통과되지 않았고, 다시 의원 발의 등을 거쳐 국회에서 논의가 돼야 하지만 우선순위에서 밀린 상태다.
방송통신위원회 역시 18~20일 미국 샌프란시스코에서 경제협력개발기구(OECD)와 정보 무결성에 관한 논의를 진행했지만 국제사회가 공동 대응하기까지는 더딜 수 밖에 없다는 목소리도 들린다.
지난달 열린 AI 서울 정상회의에서도 이같은 허위조작정보 등에 대응하기 위한 국가간 상호 협력이 강조됐으나 강제력 없는 구호에 그쳤다는 지적만 나왔다.
한 연예기획사 관계자는 "최근 기존 영상에서 옷을 없애고 나체로 전환한 영상을 확인했는데, 대응방안이 당장은 없다"며 "이런 상황까지 AI 기술이 접목될 것이라는 데 예상은 했지만 너무나 빨리 다가온 것 같아서 앞으로가 걱정"이라고 전했다.
biggerthanseoul@newspim.com
