[서울=뉴스핌] 송주원 기자 = 한국부패방지법학회는 인공지능(AI)을 활용해 공공부문의 부패 징후를 조기에 찾아내는 동시에 AI를 사용하는 국가권력도 법으로 통제해야 한다고 24일 밝혔다.

학회는 대진대학교 행정정보학과·미래융합법연구소·지역발전연구소와 함께 지난 21일 경기 포천시 대진대 대학원 세미나실에서 '인공지능 시대의 공공부패 방지'를 주제로 하계 정기학술대회 겸 공동학술대회를 열었다.

기조발제를 맡은 신봉기 한국부패방지법학회 명예회장은 AI가 사람이 놓치기 쉬운 부패 위험 신호를 찾아내는 데 유용하지만 AI 자체가 부패의 도구로 활용될 가능성도 있다고 지적했다.

신 명예회장은 "부패 포착을 위해 사용되는 인공지능 조차 감사(검증)를 받아야 한다. 이를 위해 AI에 주입한 데이터가 무엇인지, 어떤 AI 모델·버전을 사용했는지, AI가 어떤 결과를 도출했는지, 누가 이것을 최종 검토하고 의사결정을 했는지 등 일련의 기록 추적이 가능하도록 해야 한다"며 "AI 시대의 반부패법은 AI를 이용하여 부패를 통제하는 방향만이 아니라 AI를 사용하는 국가권력도 엄격하게 법으로 통제하는 것도 동시에 해결되어야 한다"고 주문했다.

AI가 이상 징후를 찾아내더라도 최종 판단은 사람이 내려야 한다는 제언도 나왔다.

양은영 숭실대 법학과 교수는 AI가 민원·예산·보조금·계약·채용 자료를 분석해 반복되는 문제와 이상 징후를 찾아내고 감사·조사가 필요한 대상을 선별하는 데 활용될 수 있다고 설명했다.

양 교수는 "위험점수나 이상탐지 결과는 위법·부당 여부에 관한 최종 판단이 아니므로, 인공지능은 인간의 판단을 대체하는 행정주체가 아니라 담당 공무원의 사실 확인과 합리적 결정을 지원하는 보조수단으로 위치 지어져야 한다"며 "예산·계약·보조금·인사·채용 등 고위험 분야에 AI 기반 상시감사체계를 도입하되, 위험점수만으로 불이익조치를 하지 않고 감사담당자의 원 자료 확인과 최종 판단을 의무화하여야 한다"고 말했다.

성봉근 서경대 공공인재학부 교수는 AI 활용으로 국민에게 미칠 위험이 커질수록 인간의 판단과 감독을 강화해야 한다고 강조했다. 그는 "위험이 낮고 회복이 쉬운 분야에서는 인공지능의 장점을 적극적으로 활용하되 국민의 생명·신체·중대한 재산권과 강제력의 행사 등 위험이 커질수록 인간의 실질적인 판단과 감독을 강화하는 방식이 타당하다"고 말했다.

공공정보 접근성을 높여 부패를 예방해야 한다는 제안도 나왔다. 이경선 서강대 공공정책대학원 교수는 국가법령정보센터의 법률 조문과 관련 공공정보를 직접 연결해 국민이 기본계획이나 실태조사 자료 등을 바로 확인할 수 있는 체계를 구축할 필요가 있다고 밝혔다.

최용전 한국부패방지법학회장은 AI와 빅데이터가 부패 위험을 사전에 찾는 데 도움이 될 수 있지만 개인정보 침해와 알고리즘의 편향·차별, 판단 과정의 불투명성 등 새로운 문제도 낳을 수 있다고 지적했다.

최 회장은 "특히 공공부문의 인공지능 활용은 국가와 지방자치단체의 공권력 행사와 밀접하게 연결되어 있다는 점에서 효율성 못지않게 적법절차와 기본권 보장, 투명성과 설명가능성, 그리고 인간에 의한 최종적인 통제가 중요하다"며 "부패방지를 위해 인공지능을 활용하는 방안만이 아니라, 그런 명분으로 인공지능을 거머쥔 국가권력의 부패적 남용 가능성을 어떻게 통제할 것인가가 어쩌면 더욱 절실하고 중요한 과제"라고 강조했다.

jane94@newspim.com