전체기사 최신뉴스 GAM 라씨로
KYD 디데이
사회 사건·사고

속보

더보기

"5~10분 내 판단" 경찰 '딥페이크 탐지 소프트웨어' 개발

기사입력 : 2024년03월05일 06:00

최종수정 : 2024년03월05일 06:00

수사 방향 설정에 활용...진위여부 탐지율 80%

[서울=뉴스핌] 박우진 기자 = 경찰청 국가수사본부는 딥페이크(deepfake) 탐지 소프트웨어를 개발해 딥페이크 이용 범죄 단속에 활용한다.

딥페이크는 딥러닝(Deep learning)과 가짜를 의미하는 '페이크(Fake)'의 합성어로 기존 영상을 다른 영상에 겹쳐 만들어내는 인공지능(AI) 기술 기반의 이미지 합성기술을 뜻한다. AI 기술이 발달하면서 딥페이크를 이용한 범죄 위협이 커지고 있다.

특히 다음달 10일 치뤄지는 제22대 총선을 앞두고 딥페이크 영상을 이용한 허위정보 유포, 여론조작 우려가 커지고 있다.

실제 국내에서는 '윤석열 대통령 양심 고백' 딥페이크 영상이 확인돼 경찰이 영상 유포자의 아이디와 이메일을 확보해 수사에 들어간 상황이다. 해당 영상은 지난 2022년 2월 윤 대통령이 대선후보 시절 진행한 TV연설 장면을 바탕으로 만든 것으로 알려졌다.

지난 1월 29일 공직선거법이 개정됨에 따라 선거일 전 90일부터 선거일까지 딥페이크 영상을 이용한 선거운동을 금지하고 있으며 경찰은 해당 범죄에 대한 엄정 대응 기조를 밝힌 바 있다.

[서울=뉴스핌] 김학선 기자 = 22일 서울 서대문구 경찰청 내 국가수사본부의 모습. 2022.06.22 yooksa@newspim.com

5일 경찰에 따르면 해당 소프트웨어는 페이스 스왑(Face Swap) 등 딥페이크 영상으로 의심되는 영상을 시스템에 올리면 5~10분 내에 분석 작업을 거쳐 진위 여부를 가려낸다. 판별과 함께 결과보고서를 만들어내 수사에 활용할 수 있다.

이번 모델은 한국인 데이터 100만점과 아시아 계열 인종 데이터 13만점을 포함해 인물 5400명의 데이터 520만점에 대한 학습이 이뤄졌다. 이는 기존 소프트웨어가 해외에서 제작돼 서양인 위주의 데이터로 구성돼 있어 한국인을 대상으로 합성된 영상에 대한 탐지율이 떨어진다는 한계를 극복했다는 점에서 의미가 있다.

또 기존에 학습된 데이터가 아닌 새로운 형태의 합성 영상에도 대응할 수 있도록 최신 AI 모델을 적용했다.

이번에 제작된 소프트웨어는 진위여부 탐지율이 약 80%인 점을 감안해 증거자료보다는 수사 방향을 설정하는데 사용될 것으로 보인다.

딥페이크 관련 기술이 끊임없이 개발되고 있는만큼 딥페이크 관련 선거범죄에 대해서는 학계와 기업 등 AI 전문가로 구성된 민간 자문위원의 교차 검증을 거쳐 해당 소프트웨어의 오탐지 가능성을 최소화할 예정이다.

경찰 관계자는 "딥페이크 여부가 의심될 경우 소프트웨어를 통한 분석을 거쳐 빠르게 결과를 확인해 적극적인 수사를 진행해나갈 수 있을 것으로 기대한다"며 "정확한 탐지가 이뤄지도록 해당 소프트웨어를 고도화할 것이며, 선거범죄·합성성착취물 범죄 외에도 딥페이크를 이용한 다양한 범죄에 능동적으로 대처해 나가겠다"고 전했다.

krawjp@newspim.com

[뉴스핌 베스트 기사]

사진
트럼프 주니어, 내주 방한…정용진 초청 [서울=뉴스핌] 남라다 조민교 기자 = 도널드 트럼프 미국 대통령의 장남 트럼프 주니어가 다음주 한국을 방문한다. 이는 사이가 각별하다고 알려진 정용진 신세계그룹 회장의 초청으로 이뤄졌다. 23일 재계 등에 따르면 트럼프 주니어는 다음주 중 한국을 찾을 예정이다. 그는 방한 후 정용진 회장 등 재계 인사들을 만나 트럼프 정부와 가교 역할을 할 전망이다. 도널드 트럼프 대통령 취임식 참석을 위해 지난 18일(현지시간) 워싱턴을 찾은 신세계그룹 정용진 회장(가운데)이 트럼프 주니어(왼쪽)와 만나 부인 한지희씨(오른쪽)를 소개 후 반갑게 사진을 찍었다. [사진=신세계그룹] 트럼프 주니어의 초청은 '절친'으로 알려진 정용진 회장이 주도한 것으로 확인됐다. 트럼프 행정부는 현재 한국에 대한 관세 부과를 유예했지만, 불확실성이 지속되면서 수출기업과 유관 단체들의 불안감이 커지는 상황이다. 이에 정 회장이 지난주 미국을 찾아 트럼프 주니어와 만나 한국 기업들의 우려를 전달하며 방한을 설득한 것으로 알려졌다. 신세계그룹 관계자는 "다음 주, 트럼프 주니어가 정용진 회장 초청으로 방한해 국내 주요 기업 인사를 만날 예정"이라며 "일정하고 장소는 아직 정해지지 않았다"고 전했다. mkyo@newspim.com 2025-04-23 16:49
사진
대법, 이재명 선거법 사건 전합 회부 [서울=뉴스핌] 김현구 기자 = 이재명 전 더불어민주당 대표의 공직선거법 위반 사건을 전원합의체에 회부한 대법원이 22일 곧바로 심리에 들어갔다. 대법원 전원합의체(전합)는 이날 오후 2시부터 이 전 대표의 공직선거법 위반 사건 상고심 첫 합의기일을 진행하고 있다. [서울=뉴스핌] 이호형 기자 = 이재명 더불어민주당 전 대표가 22일 오전 서울 서초구 서울중앙지방법원에서 열리는 '대장동 배임 및 성남FC 뇌물 혐의' 1심 속행 공판에 출석 하고 있다. 2025.04.22 leemario@newspim.com 앞서 대법원은 이날 오전 이 전 대표 사건 2부에 배당하고 주심으로 박영재 대법관을 지정했다. 하지만 이후 조희대 대법원장이 이 전 대표 사건을 전원합의체에 회부했고, 첫 합의기일도 열리게 됐다. 전합은 종전의 판례를 바꾸는 등 사회적 파장이 큰 중요 사건을 다룬다. 대법원장이 직접 재판장을 맡고, 법원행정처장을 겸임하는 대법관을 제외한 나머지 대법관 12명 등 총 13명으로 구성된다. 단 이번 사건에선 중앙선거관리위원장을 맡고 있는 노태악 대법관이 회피신청을 했다. 이에 이 사건은 조 대법원장과 나머지 대법관 11명 등 총 12명이 심리할 전망이다. 이 전 대표의 공직선거법 위반 사건이 전합에 회부되면서, 이 전 대표는 2020년에 이어 두 번째 전합 판단을 받게 됐다. 이 전 대표는 2016년 6월 성남시장으로 있으면서 보건소장, 정신과 전문의 등에게 친형을 정신병원에 강제 입원시키도록 지시하고, 2018년 지방선거를 앞두고 열린 TV토론회 등에서 친형을 강제 입원시키도록 지시한 적이 없다는 허위 발언을 한 혐의로 재판에 넘겨졌다. 그는 1심에서 무죄를 선고받았으나 2심에선 벌금 300만원을 선고받았다. 하지만 2020년 7월 전합은 이 전 대표 사건을 7(파기환송)대 5(상고기각)로 무죄 취지 파기환송했고, 이후 파기환송심에서 무죄가 나온 뒤 그대로 확정됐다. 대법원이 본격적인 심리 절차에 들어가면서 이 전 대표 사건 선고 시점에 대한 관심이 커지고 있다. 공직선거법 사건은 '6·3·3원칙(1심 6개월, 2·3심 3개월)'을 준용하게 돼 있기 때문에 원칙대로라면 오는 6월 26일까지 선고가 나와야 한다. 하지만 같은 달 3일 대통령 선거가 예정돼 있고 이 전 대표가 유력 후보로 꼽히는 만큼, 이전에 결론이 나기는 쉽지 않을 것이란 관측이 나온다. 한편 이 전 대표는 지난 대선 과정에서 대장동 개발사업의 핵심 실무자였던 고(故) 김문기 전 성남도시개발공사 개발1처장 및 백현동 개발사업과 관련해 허위 발언을 한 혐의로 기소됐다. 이 전 대표는 1심은 이 전 대표가 방송 인터뷰에서 "해외 출장 중 김문기와 골프를 치지 않았다"고 한 부분과 국회 국정감사에서 "국토부 요구에 따라 어쩔 수 없이 (백현동 한국식품연구원 부지) 용도변경을 해준 것"이라는 취지로 말한 부분이 허위사실에 해당한다며 징역 1년에 집행유예 2년을 선고했다. 하지만 2심은 해당 발언들이 모두 허위사실에 해당하지 않는다며 1심 판단을 뒤집고 무죄를 선고했다. 이에 검찰은 "법원의 판단은 피고인의 발언에 대한 일반 선거인들의 생각과 너무나도 괴리된 경험칙과 상식에 부합하지 않는 판단으로 공직선거법의 허위사실공표죄에 관한 법리를 오해한 위법이 있다"며 상고를 제기했다. hyun9@newspim.com 2025-04-22 15:23
안다쇼핑
Top으로 이동