美 국가안보국(NSA) 등과 공동 발표
"안전한 AI 사용 위해 주요국과 협력"
[서울=뉴스핌] 이영종 통일북한전문기자 = 국가정보원은이 5일 호주 신호정보부(ASD), 미국 국가안보국(NSA) 등 주요 7개국 사이버 안보기관들과 공동으로 'AI 공급망 위험·완화 방안'을 마련해 발표했다.
이날 오전 7시 관련국들이 동시에 공개한 방안의 가장 큰 특징은 AI(인공지능)를 '배포 후 관리대상'이 아닌 '설계 단계부터 보안을 내재화해야 할 시스템'으로 바라보고 있는 대목이다.
권고문 형태의 이 방안은 △데이터 △머신러닝 모델 △소프트웨어 △인프라·하드웨어 △제3자 서비스 등 5개 항목에서 AI 공급망 관련 위험요소 및 완화방안을 기술하고 있다.
권고문은 △품질 낮고 편향된 AI 데이터는 판단 오류를 초래할 수 있으므로 신뢰할 수 있는 출처의 데이터를 사용해 위험요소를 완화시키고 △머신러닝 모델은 악성코드 은닉, 백도어 삽입 등을 통해 보안사고가 발생할 수 있기 때문에 안전한 파일 형식 및 투명한 모델을 사용해야 한다는 점을 강조하고 있다.
또 AI 인프라는 악성 펌웨어(하드웨어를 제어하는 가장 기본적인 소프트웨어) 주입 등 새로운 보안 위험을 수반하므로 기존 정보 보안 시스템 보안 원칙을 적용해 네트워크 분리, 자체 인증 등을 통해 철저하게 관리해야 한다.
국정원 측은 "호주 ASD는 AI 공급망 특유의 복잡성(모델·데이터·인프라 등 공급자가 다수 존재)으로 인한 '백도어 은닉' 등 위험요인 증가를 우려해 관련 권고문을 마련하고 글로벌 차원의 대응을 위해 국정원에도 동참을 요청해왔다"고 설명했다.
국정원은 2023년 11월 '안전한 AI 개발 가이드라인' 미국·영국 등과 공동으로 발표한 데 이어 지난해 12월에는 'AI 보안 가이드북'을 배포하는 등 지속적으로 AI 공급망 공격 위협을 강조하고 관련 대책을 제시·권고해 왔다고 밝혔다.
국정원 관계자는 "이번 권고문은 AI에 특화된 위험을 공급망 측면에서 체계적으로 정리하고, '사후대응'이 아닌 '사전예방' 중심의 보안 관리 방향을 제시했다는 점에서 의미가 크다"며, "향후 주요국들과 파트너십을 바탕으로 국내에서 AI를 안전하게 활용할 수 있도록 적극 지원하겠다"고 밝혔다.
'AI 공급망 위험ㆍ완화 방안' 관련 세부 내용은 국정원 홈페이지(http://www.nis.go.kr)에서 확인할 수 있다.
yjlee@newspim.com
