[서울=뉴스핌] 정윤영 기자 = #. 지난 2016년 미국 20여개 법원에서 사용하던 인공지능 형량 판단 알고리즘 컴파스(COMPAS). 이 알고리즘은 범인 체포 직후 피의자에게 실시한 설문조사를 바탕으로 재범 위험성을 점수화해 판결에 참고됐다. 하지만 분석 결과 피의자가 흑인일 경우 재범 확률을 더 높게 산정, 논란이 확산됐다.

#. 지난 2017년 유럽연합(EU)은 자사 쇼핑 비교 서비스를 검색에서 우선 노출했다며 구글에 24억2000만 유로(약 3조3000억원) 과징금을 부과했다.

전 세계적으로 인공지능(AI) 알고리즘 편향성이 도마 위에 오르면서 이에 대한 윤리 가이드라인 제정 움직임도 속도를 내고 있다. 미·중·일·EU 등 세계 각 국에선 일찌감치 인공지능 활용·관리에 대한 원칙을 발표해 윤리 기준을 마련했다. 이에 국내에선 과학기술정보통신부가 뒤늦게 가이드라인 제정을 내년 초까지 내놓겠다고 지난해 말 발표한 바 있다.

다만 학계에선 국내 AI 윤리 가이드라인 제정을 '선언적 의미'에 불과하다고 보고 있다. 효력이 생기려면 법규가 마련되고 국제사회가 공조에 나서야 한다는 지적이다.

이달초 국회서 열린 과학기술정보방송통신위원회 국정감사에선 인공지능의 중립성 문제가 또다시 주요 쟁점이 됐다. 최근 국내 대형 IT 플랫폼에서 인공지능 기술을 자사 서비스에 유리하도록 조작했다는 의혹이 제기됐기 때문이다. 

최근 네이버는 국회로부터 자사 혹은 특정 세력에 유리하도록 인공지능을 조작했다며 알고리즘을 공개하라는 항의를 받았고, 카카오모빌리티는 가맹택시 '카카오T블루'의 배차 알고리즘을 자사 서비스에 유리하게 작용했다는 의혹으로 경기도와 맞서고 있다.

결국 인공지능이 인간 생활에 밀접하게 영향을 미치기 시작하면서 예상치 못했던 윤리적 문제가 동반되고 있다. 인공지능 기술은 특성상 사회의 편향된 데이터로 학습하기 때문에 개인정보 침해, 공정성, 투명성, 설명 가능성 등 문제가 예견돼 왔다. IBM, MS, 아마존 등 글로벌 기업들은 안면인식 기술이 유색 인종에게 불리한 결과를 도출하는 등 공정성의 문제를 유발한다는 이유로 관련 기술 개발·활용을 제지받기도 했다. 

이처럼 인공지능 역기능 문제가 사회 곳곳에서 드러나자 전 세계적으로 이를 해결하기 위한 윤리 가이드라인 제정에 나서는 모양새다. 

한국과학기술원(KAIST)에서 발간한 '인공지능의 윤리·정책·사회·이슈' 보고서에는 "인공지능의 작동으로 인간사회가 위협받는 일이 없어야 한다"며 "인공지능 윤리에 포함될 가치나 원칙, 기술 등은 윤리적이고, 공정하며, 안전한 인공지능 앱을 생산하는데 필요한 기본적 책무를 설명하는 것"이라고 적었다.

그러면서 "인공지능 윤리 규범은 시스템의 오용이나 남용, 설계 오류, 의도치 않는 부작용 등으로 인해 초래될 수 있는 개인적·사회적 손실에 대한 대응책이라는 전제를 두고 규정해야 한다"고 했다.

유럽연합(EU)의회는 지난 19일(현지시각) 윤리 가이드라인에서 더 나아가 최근 AI 윤리 프레임워크, AI로 인한 피해 책임, 지적재산권을 골자로한 이른바 'AI 3법'을 마련해 채택했다. 

전 세계적으로 인공지능 윤리 지침과 법규가 마련되면서 과기부 역시 지난해 뒤늦게 '인공지능 국가전략' 보고서를 통해 인공지능 윤리 가이드라인을 마련하겠다고 밝혔다. 이 기준은 전문가와 업계 관계자 등 의견 수렴을 마친 뒤 내년 초 중으로 발표될 예정이다.

다만 이런 움직임에도 불구하고 학계에선 AI 윤리가 선언에 불과하기 때문에 사회적으로 효력이 생기려면 국제사회가 협력해야한다고 지적한다.

김정호 KAIST 글로벌전략연구소 소장은 "실제 알고리즘이 어떻게 짜여지고 운영되는 지는 각 개인, 국가, 기관에 달려 있기 때문에 인공지능 가이드라인은 '윤리 선언'에 불과하다"며 "윤리 가이드라인이 효력이 있으려면 이 또한 공정거래법처럼 법률로 정해져야 할 것"이라고 의견을 내놨다.

또한 "국내에서만 이를 시행하면 소용이 없다"며 "세계보건기구(WHO), 세계무역기구(WTO),
세계보건기구(WHO)처럼 인공지능 윤리와 관련한 국제사회가 협약을 맺어 참여 회원들이 공동 의제를 갖고 법률을 체택해 각국에 전파돼야 할 것"이라고 강조했다.

이에 대해 과기부 관계자는 "세계 어느 가이드라인에서도 AI 윤리 가이드라인은 구속력이 없다"며 "이를 해결하고자 어떻게 현장에서 더 참고할 수 있을지 방안을 고민하고, 기술 발전에 맞춰 꾸준히 제도를 정비 방침"이라고 답했다.

yoonge93@newspim.com