[서울=뉴스핌] 오상용 기자 = 미국 인공지능(AI) 기업 앤스로픽은 12일(현지시간) 자사 기술을 무단으로 탈취하려는 증류 공격(distillation attacks)에 대응해 보안체계를 대폭 강화한 결과, 무단 추출되는 데이터를 최대 99% 줄일 수 있었다고 밝혔다.

증류는 성능이 뛰어난 AI 모델의 응답을 이용해 다른 모델을 학습시키는 기술로, 개발자의 허가 없이 대규모로 추론 능력을 추출하는 경우 기술 유출 문제가 발생할 수 있다. 미국 정부와 정치권은 중국의 AI 기업들이 자체 모델을 개발하는 과정에서 이런 증류의 공격을 쉼없이 감행했다고 지적한 바 있다.

앤스로픽은 "그간 공격자들은 수십만 개의 가짜 계정을 관리하는 네트워크를 구축해 증류에 나섰다"며 "이번에 여기에 맞서 추론 기록의 계정 간 이동을 제한하고, 무단 추출 시도를 탐지하는 2단계 분류 시스템을 도입했다"고 밝혔다. 반복적인 공격 계정에는 사용량 제한과 차단 조치를 적용했다.

이를 통해 "증류 공격자들이 빼돌리는 데이터의 양을 90~99% 줄였다"며 "수만 개의 증류 관련 계정을 차단했고 일부는 공격 개시 2시간 이내에 차단했다"고 설명했다.

다만 앤스로픽은 "이러한 성과가 얼마나 오래 지속될지는 모르겠다"며 "증류 공격은 앞으로도 공격자와 방어자 사이의 끊임없는 '고양이와 쥐' 게임으로 남을 것"이라고 예상했다.

이날 발표에서 눈길을 끄는 또 다른 대목은 앤스로픽이 증류 방어망을 강화하기 위해 상당한 매출을 포기했다고 밝힌 점이다. 앤스로픽은 유료 API를 이용한 증류 공격자들의 접근을 차단하는 과정에서 수조 개 토큰에 해당하는 유료 트래픽과 상당한 매출 기회를 포기했다고 설명했다.

한편 회사는 지난 9월 24일부터 클로드가 응답하기 전에 안전장치에 의해 차단된 요청에 대해서도 요금을 부과하기 시작했다. 공격자들이 대규모 요청을 반복하면서 보안장치를 우회하는 데 드는 비용을 높이기 위한 조치다. 다만 정상적인 사용자 요청을 잘못 식별해 차단할 수 도 있는데 앤스로픽은 해당 오탐률이 0.1% 미만이라고 밝혔다.

앤스로픽은 이러한 방어체계가 정상적인 고객에게도 일부 불편을 초래한다는 점을 인정하면서도 국가안보와 AI 기술 보호를 위해 이러한 비용은 감수할 가치가 있다고 주장했다.

osy75@newspim.com