[서울=뉴스핌] 송주원 기자 = 숭실대학교 연구진이 인공지능(AI) 해킹 프로그램을 가짜 서버로 유인해 실제 서버를 보호하는 보안기술을 개발했다. 실험에서는 기존에 35차례 발생했던 서버 침해가 방어기술 적용 이후 한 건도 발생하지 않았다.

숭실대학교는 AI안전성연구센터 최대선 교수 연구팀이 자율적으로 보안 취약점을 찾아 침투하는 AI 해킹 도구를 속여 실제 서버 접근을 차단하는 '기만 방어' 기술을 개발했다고 10일 밝혔다.

연구팀은 마이크로소프트(Microsoft)가 국가 배후 해킹에 사용된 것으로 공개한 자율 침투 AI 'ARTEX(아르텍스)'를 대상으로 기술의 효과를 검증했다.

실험 결과 방어기술이 없는 상태에서는 취약한 웹 서버 60개 가운데 35개가 침해됐다. 반면 새 기술을 적용한 이후에는 실제 서버 침해가 0건으로 줄었다.

연구팀이 개발한 기술은 공격을 차단하는 대신 공격자를 속이는 방식이다. 웹 서비스의 소스코드를 분석해 가짜 접속 경로와 페이지, 비밀번호 등을 미리 배치하는 것이 핵심이다.

공격 AI가 이러한 미끼에 접근하면 해당 접속을 공격으로 판단하고 이후 요청을 실제 서버와 유사하게 구성된 별도의 복제 서버로 전달한다. 공격 AI는 침투에 성공했다고 판단하지만 실제로는 격리된 가짜 환경에서 활동하게 된다.

연구팀은 이 기술에 동화 '헨젤과 그레텔'에서 착안한 '과자집(Gingerbread House)'이라는 이름을 붙였다.

기존의 가짜 서버 유인 방식과 달리 공격자로 식별된 이후에는 실제 서버에 접근하지 못하도록 설계했다. 미끼를 사전에 설치하는 데에는 서비스당 약 2달러와 7~16분이 소요됐다.

실험에서는 공격 AI가 가짜 비밀번호를 실제 비밀번호로 착각하는 현상도 확인됐다. 유효한 실험 110회 가운데 30회에서 가짜 비밀번호를 진짜로 보고했으며 이 중 20회는 별도의 침투 시도 없이 미끼만으로 속았다.

일반적인 웹 크롤러를 대상으로 한 117차례 실험에서는 정상 접속을 공격으로 잘못 판단한 사례가 없었다. 범용 AI 모델을 활용한 공격 에이전트의 실제 서버 침해도 26건에서 1건으로 감소했다.

다만 연구팀은 실험을 과제당 한 차례씩만 수행했고 기만을 예상해 공격 방식을 변경하는 사례는 검증하지 못했다고 설명했다. 향후 다양한 공격 도구와 실제 서비스 환경에서 기술의 적용 가능성을 확인할 계획이다.

최대선 교수는 "패치보다 공격이 빠른 시대에는 뚫린 뒤에도 남는 방어가 필요하다"며 "이번 연구로 기만 방어가 AI 해커에게 유효하다는 것은 확인했다"고 말했다.

이어 "기업과 기관은 미끼 자격증명·캐너리처럼 지금 바로 쓸 수 있는 기만 수단부터 도입을 적극 검토할 필요가 있다"고 덧붙였다.

이번 연구에는 최대선 교수와 노승덕 석사과정, 류석준 학사과정, 박소희 연구교수가 참여했다. 연구 결과는 온라인 논문 공개 사이트 아카이브(arXiv)에 공개됐다.
 

jane94@newspim.com