[뉴욕=뉴스핌] 김민정 특파원 = 이란과 연계된 조직이 미국산 인공지능(AI)을 이용해 중동에 배치된 미 해군 함정을 추적하고 취약점을 찾으려 한 정황이 드러났다.

11일(현지시간) 블룸버그통신과 월스트리트저널(WSJ)에 따르면 AI 기업 앤스로픽은 전날 154쪽 분량의 위협정보 보고서를 내고 이 같은 시도를 적발해 차단했다고 밝혔다. 보고서에 담긴 사례들에 가장 앞선 모델인 파이블(Fable)과 미소스(Mythos)는 포함되지 않았다. 미국과 이란의 전쟁이 7개월째 이어지는 가운데 나왔다.

보고서에 따르면 이란 연계 조직은 선박과 항공기 트랜스폰더 정보, 군사 사진, 상업용 위성 사진을 취합해 미군 함정을 추적하고 함상 통신의 취약점을 찾으려 했다. 이 조직은 앤스로픽의 AI 모델 클로드를 사용했다.

이란의 한 부대는 감시 소프트웨어를 만드는 데 클로드를 활용했다. 이슬람권에서 널리 쓰이는 기도 시간 알림 앱으로 위장한 형태였다. 일반적으로 이런 앱은 기도 방향과 시각을 계산하기 위해 위치 정보 권한을 요구하는 것이 자연스러워 이용자의 경계를 낮출 수 있다.

앤스로픽은 자사 모델을 무기 제작이나 감시, 폭력 행위에 쓰지 못하도록 규정하고 있다. 다만 보고서는 사용자들이 의도를 감추고, 클로드가 요청을 거부하면 계속 새로운 접근법을 시도했다고 지적했다.

이란과 연계된 예멘 후티 반군이 장악한 예멘 북부에서도 클로드가 무기 개발에 쓰였다. 다단 탄도미사일을 포함해 여러 종류의 미사일 유도 소프트웨어를 만드는 작업이었다.

앤스로픽은 "이들이 실제 작동하는 장비를 배치하는 데 성공했다는 증거는 없지만 유도 로켓을 시험 발사했다"며 "몇 시간 뒤 이들은 왜 실패했는지 알아내기 위해 클로드로 돌아왔다"고 설명했다. 보고서는 "우리 안전장치가 이들의 요청 상당수를 막았지만 전부는 아니었다"고 인정했다. 앤스로픽은 관련 계정을 차단하고 정부 파트너와 정보를 공유했으며 새로운 탐지 절차를 마련했다고 강조했다.

◆ 러시아는 자폭 드론, 중국은 위구르 감시

이란과 예멘 외에도 러시아와 중국 등지의 사용자들이 지난 1년간 클로드 모델을 오용하려 한 정황이 포착됐다고 앤스로픽은 밝혔다. 

러시아에 기반을 둔 사용자들은 우크라이나 전투 영상으로 학습시킨 자율 1인칭 시점(FPV) 자폭 드론 군집용 소프트웨어를 만들려 했다. 앤스로픽은 이들이 국가와 연계된 정황은 없다고 판단했다. 자원이 풍부한 중앙아프리카공화국과 콩고민주공화국 등에 러시아 성향 선전물을 퍼뜨리는 작업도 확인됐다.

중국 정부와 연계된 것으로 파악된 작전은 시리아군에 합류한 위구르족을 추적하고 프로파일을 작성하는 데 클로드를 썼다. 위구르 디아스포라 언론인을 겨냥한 대량 신고와 봇 네트워크 증폭 작업도 이뤄졌다. 중국 정부와 연계된 또 다른 계정들은 아시아 지역 고위 가톨릭 추기경과 대만 장로교회 지도부, 티베트 불교 관계자 등 베이징이 경계하는 종교 지도자들의 신상 자료를 만드는 데 활용됐다.

생물무기 개발을 뒷받침할 소지가 있는 활용 사례도 5건 포함됐다. 앤스로픽은 해당 사례가 모두 "모호한" 성격이며 선의의 과학적 의도일 가능성도 있다고 덧붙였다.

앤스로픽은 보고서에서 "모델이 점점 더 유능해질수록 위험도 커질 것"이라며 "AI 개발자와 사회의 방어자들이 이를 더 안전하게 만들기 위해 행동하지 않는 한 그렇다"고 밝혔다. 이어 "이번 보고서의 발견이 다른 개발사들이 자사 플랫폼에서 유사한 패턴을 알아보는 데 도움이 되고, 정부와 시민사회가 새로운 위협의 형태를 더 명확히 보도록 하기를 바란다"고 덧붙였다.

mj72284@newspim.com