[서울=뉴스핌] 양가희 기자 = 김민석 국무총리는 14일 "공직선거법에 따라 AI(인공지능)를 이용한 딥페이크 선거 영상은 선거 90일 전부터 엄격히 금지된다"고 강조했다.

김 총리는 이날 정부서울청사에서 진행한 제9회 동시지방선거 관련 대국민담화를 통해 "생성형 AI 기술의 급격한 발전은 선거 환경을 근본적으로 바꾸어 놓고 있다"며 이같이 밝혔다.

그러면서 "정부는 국민들께서 소중한 권리를 행사할 수 있도록 투·개표의 전 과정을 엄정하게 관리함으로써 온전히 신뢰할 수 있는 공정하고 투명한 선거를 만들겠다"고 밝혔다.

김 총리는 "우리는 오늘 민주주의에 대한 새로운 위협 앞에 서 있다. 생성형 AI 기술의 급격한 발전은 선거 환경을 근본적으로 바꾸어 놓고 있다"고 말했다.

김 총리는 "존재하지 않는 장면이 사실처럼 재현되고 하지 않은 발언이 실제 음성처럼 만들어져 유포되면서 선거의 공정성을 심각하게 위협하고 있다"며 "여기에 더해 인미디어와 사회관계망 서비스, 온라인 플랫폼을 통한 확산의 가속화는 문제를 더욱 복잡하고 심각하게 만들고 있다"고 우려했다.

아울러 "근거 없는 허위 정보는 우리 사회 전반에 깊은 갈등과 불신을 심고 이를 바로잡는 과정에서 막대한 행정력과 사회적 비용을 초래한다. 이는 특정 후보에 대한 공격을 넘어 선거제도 자체에 대한 국민의 신뢰를 허무는 행위이며, 민주주의의 근간을 흔드는 심각한 위협이다"라고 비판했다.

김 총리는 "정부는 이 문제를 결코 좌시하지 않겠다. 공직선거법에 따라 AI를 이용한 딥페이크 선거 영상은 선거 90일 전부터 엄격히 금지된다"며 "이번 선거 기간 동안 AI를 악용한 가짜뉴스에 대해서는 일벌백계 차원에서 법이 허용하는 최대한으로 엄중히 처벌하겠다"고 밝혔다.

김 총리는 "가짜뉴스 유포뿐만 아니라 금품수수, 선거폭력, 공무원의 선거 개입 등 5대 선거 범죄에도 무관용 원칙으로 엄격하고 단호하게 처리하겠다"며 "선거 범죄는 6개월의 단기 공소시효가 적용되는 만큼 신속하고 빈틈없이 처리하여 적발된 범죄에 대해서는 반드시 그에 상응하는 책임을 부과할 것"이라고 했다.

김 총리는 정당과 후보자를 향해서도 "선거는 경쟁이지만 그 경쟁은 정정당당해야 한다. 허위 정보와 흑색 선전에 기대는 선거운동은 유권자에 대한 기만이자 민주주의 자체를 훼손하는 행위임을 명심해 주시기 바란다"고 말했다.

김 총리는 이날 대국민담화에 앞서 공명선거 관계장관회의를 열고 "가짜뉴스는 표현의 자유가 아니다. 민주주의에 대한 도전이고, 명백한 범죄행위"라고 강조한 바 있다.

대국민담화 이후 정성호 법무부 장관은 "최근에도 입건된, AI를 이용한 딥페이크 관련해서 입건된 사례가 여러 건 있다. 지난해 4년 전 지방선거 대비해 흑색선전이 50% 정도 더 늘었다"며 "국과수가 프로그램을 만들어서 (사실 관계를) 바로 확인할 수 있는 그런 시스템을 갖췄다. 이게 확인되는 순간 저희 선관위와 경찰, 검찰이 즉각 조치하고 방미통위에 연락해서 또 삭제할 수 있는 그런 구조를 만들어 가고 있다"고 설명했다. 

윤호중 행정안전부 장관은 "선거일 전 90일부터 딥페이크나 AI로 생성한 콘텐츠임을 표시하는가, 표시하지 않는가에 불문하고 선거법상으로 AI를 이용한 선거운동은 불법이다. 그 내용에 대해서 허위 사실이 있을 경우에는 허위사실유포죄로 동시에 처벌이 가능하다"고 덧붙였다.

sheep@newspim.com