AI 핵심 요약
beta- 앤스로픽이 수주 내 고위험 AI '클로드 미소스'급 모델을 일반에 공개하겠다고 29일 밝혔다.
- 사이버 공격 악용 방지를 위한 보호장치를 강화해 미소스보다 취약점 식별 능력을 의도적으로 낮춰 공개할 예정이다.
- 앤스로픽은 동시에 신형 '클로드 오푸스4.8'도 내놓아 코드 생성 오류를 줄이고 기업용 서비스에 즉시 제공하기로 했다.
!AI가 자동 생성한 요약으로 정확하지 않을 수 있어요.
[서울=뉴스핌] 오영상 기자 = 미국의 인공지능(AI) 스타트업 앤스로픽이 높은 사이버 공격 능력을 이유로 비공개해온 AI 모델 '클로드 미소스'와 비슷한 성능의 AI를 앞으로 수주 내 일반에 공개할 예정이라고 29일 니혼게이자이신문이 보도했다.
일본 등 미국 외 국가에서도 사용할 수 있을 전망이다.
앤스로픽은 자사 사이트를 통해 "수주 내 모든 고객에게 미소스와 동등한 수준의 모델을 제공할 수 있을 것으로 본다"고 밝혔다. 사이버 공격에 대한 AI 악용을 막기 위한 보호 장치 개발이 진전되면서 공개할 수 있는 기반이 마련됐다는 설명이다.
미소스는 시스템의 취약점을 찾아내는 능력이 기존 AI 모델보다 훨씬 뛰어난 것으로 알려져 있다. 앤스로픽은 지난 4월 서비스 확대 전에 충분한 안전 대책이 필요하다며 미소스를 일반에는 공개하지 않았다.
일부 기업을 대상으로 한 시험 제공 이후 약 두 달 동안 기술 검증이 진행되면서, 비슷한 성능의 모델을 공개할 준비가 갖춰졌다고 판단한 것으로 보인다.
앤스로픽은 일반 공개할 모델의 세부 성능은 밝히지 않았지만, 악용을 피하기 위해 소프트웨어 취약점을 식별하는 능력을 의도적으로 일부 낮출 방침인 것으로 전해졌다. 미소스는 다양한 용도로 활용 가능한 대규모언어모델(LLM)이기 때문에, 사이버 보안 외 분야에서도 사용할 수 있다.
회사가 언급한 시스템의 취약점은 사이버 공격의 단서가 되는 버그(결함) 등을 의미한다. 개발사가 이를 발견하면 조기 수정이 가능하지만, 악용될 경우 정보 유출이나 시스템 장애로 이어질 수 있다.
앤스로픽은 미소스를 활용한 기업들 사이에서 지금까지 총 1만 건 이상의 취약점이 발견됐다고 밝혔다.
회사는 그동안 미소스를 미국 기업 중심의 약 50개 기업·기관과 일부 미국 정부 기관에만 제한적으로 제공해왔다. 미국의 빅테크 기업과 금융 대기업들은 미소스 접근 권한을 확보해 사이버 방어 능력 강화에 활용해온 반면, 일본 등 미국 외 기업과 정부는 이용할 수 없어 경계감이 커지고 있었다.
◆ 미소스보다 낮은 성능의 '오푸스 4.8'도 공개
한편 앤스로픽은 28일(현지시간) 미소스보다 성능이 낮은 신형 모델 '클로드 오푸스 4.8'을 공개했다. 이날부터 즉시 대화형 AI 애플리케이션과 기업용 서비스에 제공한다.
오푸스 4.8은 기존 기술인 오푸스 4.7과 비교해 AI 동작의 신뢰성이 향상됐다고 회사 측은 설명했다. 지금까지 AI 모델은 사용자의 요청대로 작업이 제대로 진행되지 않았더라도 그럴듯하게 "작업이 완료됐다"고 답하는 경우가 있었다.
앤스로픽에 따르면 오푸스 4.8은 AI가 작업 과정에서의 누락이나 빠진 부분을 스스로 인식하는 정확도가 높아졌으며, 소프트웨어 개발에 사용하는 코드 생성 분야에서는 자신의 실수를 놓칠 확률이 기존 대비 4분의 1 수준으로 줄었다. 기업용 제공 가격은 기존과 동일하게 유지했다.
goldendog@newspim.com
