전체기사 최신뉴스 GAM 라씨로
KYD 디데이
사회 사건·사고

속보

더보기

"5~10분 내 판단" 경찰 '딥페이크 탐지 소프트웨어' 개발

기사입력 : 2024년03월05일 06:00

최종수정 : 2024년03월05일 06:00

수사 방향 설정에 활용...진위여부 탐지율 80%

[서울=뉴스핌] 박우진 기자 = 경찰청 국가수사본부는 딥페이크(deepfake) 탐지 소프트웨어를 개발해 딥페이크 이용 범죄 단속에 활용한다.

딥페이크는 딥러닝(Deep learning)과 가짜를 의미하는 '페이크(Fake)'의 합성어로 기존 영상을 다른 영상에 겹쳐 만들어내는 인공지능(AI) 기술 기반의 이미지 합성기술을 뜻한다. AI 기술이 발달하면서 딥페이크를 이용한 범죄 위협이 커지고 있다.

특히 다음달 10일 치뤄지는 제22대 총선을 앞두고 딥페이크 영상을 이용한 허위정보 유포, 여론조작 우려가 커지고 있다.

실제 국내에서는 '윤석열 대통령 양심 고백' 딥페이크 영상이 확인돼 경찰이 영상 유포자의 아이디와 이메일을 확보해 수사에 들어간 상황이다. 해당 영상은 지난 2022년 2월 윤 대통령이 대선후보 시절 진행한 TV연설 장면을 바탕으로 만든 것으로 알려졌다.

지난 1월 29일 공직선거법이 개정됨에 따라 선거일 전 90일부터 선거일까지 딥페이크 영상을 이용한 선거운동을 금지하고 있으며 경찰은 해당 범죄에 대한 엄정 대응 기조를 밝힌 바 있다.

[서울=뉴스핌] 김학선 기자 = 22일 서울 서대문구 경찰청 내 국가수사본부의 모습. 2022.06.22 yooksa@newspim.com

5일 경찰에 따르면 해당 소프트웨어는 페이스 스왑(Face Swap) 등 딥페이크 영상으로 의심되는 영상을 시스템에 올리면 5~10분 내에 분석 작업을 거쳐 진위 여부를 가려낸다. 판별과 함께 결과보고서를 만들어내 수사에 활용할 수 있다.

이번 모델은 한국인 데이터 100만점과 아시아 계열 인종 데이터 13만점을 포함해 인물 5400명의 데이터 520만점에 대한 학습이 이뤄졌다. 이는 기존 소프트웨어가 해외에서 제작돼 서양인 위주의 데이터로 구성돼 있어 한국인을 대상으로 합성된 영상에 대한 탐지율이 떨어진다는 한계를 극복했다는 점에서 의미가 있다.

또 기존에 학습된 데이터가 아닌 새로운 형태의 합성 영상에도 대응할 수 있도록 최신 AI 모델을 적용했다.

이번에 제작된 소프트웨어는 진위여부 탐지율이 약 80%인 점을 감안해 증거자료보다는 수사 방향을 설정하는데 사용될 것으로 보인다.

딥페이크 관련 기술이 끊임없이 개발되고 있는만큼 딥페이크 관련 선거범죄에 대해서는 학계와 기업 등 AI 전문가로 구성된 민간 자문위원의 교차 검증을 거쳐 해당 소프트웨어의 오탐지 가능성을 최소화할 예정이다.

경찰 관계자는 "딥페이크 여부가 의심될 경우 소프트웨어를 통한 분석을 거쳐 빠르게 결과를 확인해 적극적인 수사를 진행해나갈 수 있을 것으로 기대한다"며 "정확한 탐지가 이뤄지도록 해당 소프트웨어를 고도화할 것이며, 선거범죄·합성성착취물 범죄 외에도 딥페이크를 이용한 다양한 범죄에 능동적으로 대처해 나가겠다"고 전했다.

krawjp@newspim.com

[뉴스핌 베스트 기사]

사진
'이재명 파기환송' 향후 재판 절차는 [서울=뉴스핌] 김현구 기자 = 이재명 더불어민주당 대선 후보가 공직선거법 위반 사건 재판을 다시 받게 되면서 향후 절차에 대한 관심이 커지고 있다. 대법원 전원합의체(전합)는 1일 오후 3시 이 후보 공직선거법 위반 사건 상고심 선고기일에서 10(파기환송)대 2(상고기각) 의견으로 이 후보에게 무죄를 선고한 원심판결을 깨고 사건을 서울고법으로 돌려보냈다. 대법원이 소송기록을 서울고법으로 송부하면 배당 절차가 진행된다. 단 기존 2심을 진행한 재판부는 배당에서 제외되며, 재판부 배당 후 본격적인 심리가 재개된다. 재판부 배당은 이르면 이번 주 안에 결정될 수 있다. [서울=뉴스핌] 김학선 기자 = 이재명 더불어민주당 대선 후보가 1일 서울 중구 프레스센터에서 열린 한국노총과의 정책협약식을 마치고 나서고 있다. 이날 대법원은 이재명 대선 후보의 공직선거법 위반 사건에 대해 무죄를 선고한 2심 판결을 파기 환송했다. 2025.05.01 yooksa@newspim.com 이번 사건은 대법원이 원심의 무죄 선고를 파기하고 유죄 취지로 환송한 사건이다. 대법원판결은 기속력(구속력)이 있기 때문에, 이를 뒤집을만한 중대한 증거가 새롭게 제기되지 않는 이상 파기환송심은 대법원판결 취지에 따라 심리를 진행하게 된다. 앞서 1심은 이 후보에게 징역 1년에 집행유예 2년을 선고했다. 이에 파기환송심에서도 피선거권 박탈에 해당하는 선고가 나올 수 있다는 관측이 지배적이다. 공직선거법 위반 사건으로 100만원 이상의 벌금형을 확정받으면 당사자는 향후 5년간 피선거권이 박탈돼 공직선거에 출마할 수 없다. 다만 이번 사건으로 이 후보의 형이 확정되기까진 상당한 시간이 걸릴 것으로 예상된다. 우선 파기환송심 심리와 선고 자체도 상당한 시간이 필요한데, 파기환송심이 선고를 단시간에 낸다고 해도 피선거권 박탈형이 나온다면 이 후보가, 반대의 경우엔 검찰이 재상고할 가능성이 크기 때문이다. 결국 사건은 다시 대법원으로 넘어갈 가능성이 크다. 게다가 상고이유서는 20일 안에 제출하면 되기 때문에, 이 후보가 재상고를 결정하는 상황이 온다면 최소 20일은 벌 수 있다. 이러한 과정을 고려했을 땐 이 후보의 형 확정은 '6·3 조기대선' 전까지 나오기 어렵다는 전망이 지배적이다. 그리고 이 후보에 대한 유죄 확정이 대선 이후로 넘어가고 이 후보가 대통령으로 당선될 경우 '헌법 제84조'에 대한 논란이 치열하게 펼쳐질 것으로 예상된다. 헌법 제84조는 '대통령은 내란 또는 외환의 죄를 범한 경우를 제외하고는 재직 중 형사상의 소추를 받지 아니한다'는 내용을 담고 있다. 법조계 안팎에선 대통령의 불소추 특권 범위를 임기 도중 기소되지 않는 것으로 해석해야 하는지, 당선 전 기소된 사안도 포함해야 하는지 등에 대한 의견이 엇갈리고 있다. 이를 두고 일각에선 결국 이에 대한 해석이 헌법재판소로 넘어갈 수 있다는 관측도 조심스럽게 나오고 있다. hyun9@newspim.com 2025-05-01 18:12
사진
과기부 "SKT 신규 모집 중단" 촉구 [세종=뉴스핌] 이경태 기자 = 유심 물량 공급이 안정화될 때까지 SK텔레콤의 이용자 신규 모집이 전면 중단될 예정이다. 과학기술정보통신부는 1일 SK텔레콤에 해킹사고 발생에 따른 추가 피해 방지를 위해 보다 강도 높은 해결책 추진을 촉구했다. 먼저 국민이 상황을 납득하고 안심할 수 있도록 일일 브리핑 등을 통해 현 상황을 국민 입장에서 쉽게 설명하고, 정보를 투명하게 공개토록 했다. [서울=뉴스핌] 최지환 기자 = 가입자 유심(USIM) 정보를 해킹 당한 SK텔레콤이 유심 무료교체 서비스를 시작한 28일 서울 강서구 김포공항 국제선 SKT 로밍센터에서 고객들이 유심교체를 위해 줄을 서 있다. 2025.04.28 choipix16@newspim.com 유심 교체 물량 부족 문제를 해결하기 위해, 유심 물량 공급이 안정화 될 때까지 이동통신 서비스 이용자 신규모집을 전면 중단하도록 요구했다. SK텔레콤이 국회 과학기술정보방송통신위원회에서 밝힌 일부 계층에 대한 유심보호서비스 일괄 적용 방안의 이행계획을 제출하고, 이번 해킹사고에 따른 이용자 피해발생 시 100% 보상을 책임지는 방안도 국민에게 구체적이고 적극적으로 설명토록 했다. 각계 소비자단체 등에서 제기하는 위약금 면제, 손해배상, 피해보상 시 입증책임 완화 등을 검토하고, 이용자 피해 보상 방안을 마련해 이행토록 했다. 최근 SK텔레콤의 잦은 영업전산 장애가 발생하는 것과 관련, 장애 발생시 즉각적인 상황공유와 신속한 복구를 통해 번호이동 처리가 지연되지 않도록 조치하도록 했다. 이달 초 연휴기간 출국자들이 공항에서 유심 교체를 위해 오래 대기하는 불편이 발생하지 않도록 지원인력도 대폭 확대토록 했다. biggerthanseoul@newspim.com 2025-05-01 16:27
안다쇼핑
Top으로 이동