[서울=뉴스핌] 김지나 기자 = 정부가 복지대상자 선정이나 인허가, 위험예측 등 국민의 권리와 생활에 영향을 미치는 행정업무에 인공지능(AI)을 활용하더라도 최종적인 판단과 책임은 사람이 지도록 하는 원칙을 마련했다.

행정안전부는 공공부문의 AI 도입 확대에 맞춰 신뢰할 수 있는 AI 활용을 위한 '공공부문 인공지능 윤리기준'을 최종 확정했다고 1일 밝혔다.

이번 윤리기준은 국정과제인 '세계 최고 AI 민주정부 실현'을 위한 핵심 실천과제 가운데 하나다. 공공부문에서 AI 활용이 확대되는 과정에서 발생할 수 있는 편향된 결정이나 개인정보 침해 등의 위험을 줄이고 국민이 안심할 수 있는 행정 환경을 조성하기 위해 마련됐다.

최근 공공분야에서 AI를 활용한 업무 혁신이 확산하면서 AI의 판단을 어디까지 활용할 수 있는지, 문제가 발생했을 때 누가 책임을 져야 하는지 등에 대한 기준 마련 필요성이 커지고 있다.

이에 행안부는 국내외 AI 윤리기준을 분석하고 전문가 자문 등을 거쳐 지난해 11월 초안을 마련했다. 이후 관계기관과 학계 전문가 등의 의견 수렴을 거쳐 최종안을 확정했다.

윤리기준은 '행정 혁신 촉진'과 '국민 신뢰 구축'을 목표로 국민·행정·기술 등 3가지 관점에서 ▲공공성 ▲형평성 ▲투명성 ▲책임성 ▲안전성 ▲프라이버시 보호 등 6대 핵심가치를 제시했다.

이를 실제 행정 현장에서 활용할 수 있도록 6대 핵심가치를 총 68개의 세부 점검 항목으로 구체화했다.

AI가 업무에 활용되는 정도에 따라 윤리기준을 달리 적용하는 '3단계 맞춤형 자율점검 체계'도 도입한다.

1단계는 AI를 단순 업무 등에 사용하는 '적용(기초활용)', 2단계는 AI가 사람의 판단을 돕는 '응용(의사결정 지원)', 3단계는 AI의 판단 비중이 더욱 커지는 '융합(자율결정 기반)' 단계다. 각 기관은 AI 서비스의 활용 수준에 맞춰 필요한 윤리기준을 적용하고 점검하게 된다.

특히 정부는 6대 핵심가치 가운데 '책임성'을 강조했다. AI가 행정 의사결정을 지원하거나 직접적인 판단 과정에 활용되더라도 최종적인 책임과 통제는 사람에게 있다는 원칙이다.

복지대상자 선정이나 인허가, 위험예측처럼 국민의 권리와 일상생활에 직접적인 영향을 미치는 업무에 AI가 활용될 경우 AI의 판단 오류를 누가 확인하고 책임질 것인지가 중요하기 때문이다.

이에 따라 AI 서비스 기획부터 실제 제공까지 전 과정에서 책임 주체를 명확히 하고, AI의 판단과 결정에 사람이 개입해 검토할 수 있는 '인적 감독 체계'를 마련하도록 했다. 문제가 발생한 이후 이를 바로잡을 수 있는 사후관리와 피해구제 체계도 갖추도록 했다.

행안부는 이번 윤리기준을 선언적인 원칙에 그치지 않고 공직자가 실제 업무에서 AI 윤리 문제를 스스로 점검하고 개선하는 실무 지침으로 활용할 계획이다.

이를 위해 공공부문 종사자를 대상으로 교육 프로그램을 운영해 공직자들이 AI 활용 과정에서 발생하는 윤리적 문제를 판단하고 대응할 수 있도록 지원한다.

윤호중 행안부 장관은 "인공지능 기술이 행정 혁신의 핵심 동력이 되고 있는 만큼 그 밑바탕에는 국민의 기본권을 보호하고 신뢰를 확보하기 위한 윤리적 토대가 반드시 필요하다"며 "윤리기준과 68개 자율점검 항목을 통해 공공분야 전반에 AI 윤리가 자연스럽게 자리 잡고 인공지능을 공정하고 안전하게 활용할 수 있는 행정 환경을 만들어 가겠다"고 말했다.

abc123@newspim.com