AI 모델 구조 탈취 시스템 발표
전자기파로 AI 내부 구조 분석 가능
국가 인프라 보호를 위한 보안 체계 필요
전자기파로 AI 내부 구조 분석 가능
국가 인프라 보호를 위한 보안 체계 필요
[세종=뉴스핌] 이경태 기자 = 한국과학기술원(KAIST) 전산학부 한준 교수 연구팀이 소형 안테나로 원거리에서 인공지능(AI) 모델 구조를 탈취할 수 있는 공격 시스템을 개발했다.
연구팀은 싱가포르국립대, 중국 저장대와 함께 개발한 '모델스파이(ModelSpy)'를 31일 발표했다. 이 기술은 AI 연산을 담당하는 그래픽 처리 장치(GPU)에서 발생하는 전자기파 신호를 포착해 AI의 내부 구조를 분석한다.
실험 결과 벽 너머나 최대 6m 거리에서도 AI 모델 구조를 높은 정확도로 파악할 수 있었다. 딥러닝 모델의 핵심 구조인 레이어를 최대 97.6%의 정확도로 추정했으며, 최신 GPU 5종을 대상으로 한 실험에서 가방에 넣을 수 있는 소형 안테나만으로도 공격이 가능했다.
기존 해킹과 달리 서버에 직접 침투하거나 악성코드를 설치할 필요가 없다. 연구팀은 전자기파 교란이나 연산 난독화 등 대응 기술을 함께 제시했다.
한 교수는 "AI 시스템이 물리적 환경에서도 새로운 공격에 노출될 수 있다"며 "자율주행이나 국가 기반 시설 같은 중요한 AI 인프라를 보호하기 위해 하드웨어와 소프트웨어를 아우르는 사이버-물리 보안 체계 구축이 중요하다"고 말했다.
이번 연구는 컴퓨터 보안 분야 최고 권위 학술대회인 NDSS(Network and Distributed System Security Symposium) 2026에서 발표되며 최우수 논문상을 수상했다.
biggerthanseoul@newspim.com
