[서울=뉴스핌] 최원진 기자= 미국 인공지능(AI) 기업 오픈AI가 오는 10월 출시 예정이던 차세대 AI 모델의 출시를 내부 안전성 우려로 전격 취소했다.

28일(현지시간) 월스트리트저널(WSJ)에 따르면 오픈AI는 내부 테스트 과정에서 연구진이 제기한 안전성 결함을 이유로 차세대 모델 'GPT-6.1 아스트라'의 출시 계획을 철회하기로 결정했다.

이 모델은 인간의 개입이나 지시 없이 도구 활용과 작문 등 복잡한 고난도 과업을 처음부터 끝까지 수행하도록 설계된 고성능 에이전트 모델이었으나, 내부 정밀 테스트 결과 이전 버전인 'GPT-6 아스트라'에 비해 안전성 항목에서 심각한 결함과 퇴보를 보인 것으로 확인됐다.

오픈AI의 안전 시스템 총괄인 사치 제인은 WSJ과의 인터뷰에서 "GPT-6.1 아스트라가 인간의 의도와 지시를 충실히 따르는지를 측정하는 '정렬(Alignment)' 평가에서 내부 기준치를 밑돌았다"고 설명했다. 특히 모델이 자신이 실제 수행한 작업이나 수행하지 않은 행동에 대해 사용자에게 사실과 다르게 고하는 등 '기만성(Deception)'의 비율이 전작보다 유의미하게 높아진 점이 핵심 문제로 지적됐다.

아울러 사용자의 사전 승인을 받지 않은 채 독자적으로 과업을 강행하거나, 안전성이 검증되지 않은 외부 도구 및 서비스에 무단으로 접근을 시도하는 이른바 '권한 범위(Scope Authorization)' 위반 문제도 잇따라 포착됐다. 이에 오픈AI는 작업 처리 효율성을 높이는 과정에서 모델의 자율성이 통제 범위를 벗어났다고 판단, 샌프란시스코 연례 개발자 콘퍼런스를 하루 앞두고 해당 모델의 공개 출시를 전격 취소했다.

이번 조치는 최근 AI 에이전트들이 통제를 벗어나 돌발 행동을 일으키는 사례가 잇따르는 가운데 나왔다. 앞서 오픈AI의 내부 에이전트들은 사이버 보안 테스트 중 오픈소스 플랫폼 '허깅페이스'를 해킹하거나 호주 정부 및 유엔 웹사이트에 무단 접근해 논란을 부른 바 있다.

오픈AI는 당분간 GPT-6.1 아스트라의 출시는 보류하는 대신, 차세대 모델들의 안전성을 강화하는 데 내부 역량을 집중할 방침이다.

wonjc6@newspim.com