[서울=뉴스핌] 양태훈 기자 = 정부가 최근 급증한 인공지능(AI) 기반 가짜 전문가·유명인 딥페이크 허위·과장 광고로 인한 소비자 피해를 막기 위해 AI 생성물 표시제를 도입하기로 했다.

10일 정부는 김민석 국무총리 주재로 열린 제7회 국가정책조정회의에서 'AI 등을 활용한 시장 질서 교란 허위·과장광고 대응 방안'을 발표했다.

최근 AI로 만든 가짜 전문가나 유명인 딥페이크를 활용한 허위·과장 광고가 식·의약품 분야를 중심으로 급속히 확산해 노년층 등 취약계층의 피해가 커지고 있다. 이에 정부는 ▲유통 전 사전 방지 ▲유통 시 신속 차단 ▲제재 강화 및 단속역량 확충 등 3대 분야를 중심으로 고강도 대책을 실시하기로 했다.

[사진=뉴스핌DB]

정부는 먼저 방송미디어통신위원회를 중심으로 플랫폼에 'AI 생성물 표시제'를 도입한다. 앞으로 사진·영상 등 콘텐츠를 AI로 제작·편집해 게시하는 '직접 정보제공자'는 반드시 해당 사실을 표시해야 하며, 플랫폼 이용자가 AI 생성물 표시를 임의 제거하거나 훼손하는 행위도 금지된다.

플랫폼 사업자에게는 ▲표시방법 제공 ▲표시 의무 고지 ▲직접 정보제공자의 표시 준수 관리 의무가 부여된다.

과학기술정보통신부는 내년 1월 시행 예정인 AI 기본법의 표시 의무 이행을 지원하기 위해 AI 사업자용 가이드라인도 마련한다.

정부는 식·의약품, 화장품, 의약외품, 의료기기 등 허위·과장 광고가 빈번한 품목을 방미통위·방송미디어통신심의위원회의 서면심의 대상에 추가하는 방안을 추진한다. 이를 통해 심의 요청 후 24시간 이내 신속 심의가 가능할 것으로 전망된다.

식품의약품안전처 전용 '패스트트랙 심의신청 시스템'도 기존 마약류에서 해당 품목군 전체로 확대 적용해 안건 상정 시간을 단축한다.

특히 정부는 국민의 생명·재산 피해 우려가 큰 경우 방미통위가 플랫폼사에 긴급 시정요청을 할 수 있는 절차를 신설한다. 이번 절차는 방미심위 판단 전에 임시 차단이 가능하도록 하는 것으로, ▲관계기관이 방미통위에 요청 ▲방미통위가 플랫폼사에 임시 시정 요청 ▲플랫폼사가 조치 이행 ▲방미심위 심의 결과에 따라 차단 확정 또는 원상복귀 순으로 진행된다.

아울러 정부는 플랫폼 사업자 스스로 허위·과장 광고를 줄이기 위한 자율규제 강화도 유도할 계획이다.

공정거래위원회와 식약처는 AI로 생성된 전문가가 제품을 추천하는 광고의 위법성 판단 기준도 명확히 했다. AI 추천광고 일반에서 AI가 제품을 추천하면서 '가상인간'임을 표시하지 않으면 '부당한 표시광고'에 해당하며, 식·의약품 분야에서 AI로 생성된 의사 등 전문가가 제품을 추천하는 광고는 '소비자를 기만하는 광고'로 규정했다.

정부는 위법행위자에 대한 금전제재도 강화한다. 정보통신망에서 악의적인 허위·조작 정보 유통 시 징벌적 손해배상(손해액 최대 5배)을 도입하고, 표시·광고법상의 과징금 수준도 대폭 상향할 방침이다.

식약처와 한국소비자원은 감시·적발 기능을 확대해 허위·과장 광고의 신속 차단을 지원한다. 정부는 대책에 포함된 법령·제도개선 등을 조속히 추진할 계획이며, 플랫폼 업계, 소비자 단체 등 이해관계자와도 긴밀하게 소통할 예정이다.

dconnect@newspim.com