이 기사는 인공지능(AI) 번역을 바탕으로 전문 기자들의 검증과 분석을 거쳐 생산된 콘텐츠로, 원문은 9월 12일 블룸버그통신 기사(Anthropic CEO Says It's Time to Slow Pace of Improving AI Models)입니다.

[서울=뉴스핌] 김현영 기자 = 다리오 아모데이 앤스로픽 최고경영자(CEO)가 인간에게 미칠 수 있는 '심각한' 위험에 대한 우려가 커지고 있다며, AI 업계가 신규 모델 개발 속도를 늦춰야 한다고 밝혔다.

아모데이는 11일(현지시간) 블로그 게시글에서 "우리는 AI 모델의 성능을 향상시키는 속도를 늦춰야 한다"며 "발전 속도는 여전히 빠르게 느껴질 것이며, 우리는 그로 인해 확보하는 시간을 현명하게 활용해야 한다"고 밝혔다.

그는 그 이유로 크게 두 가지를 들었다. 하나는 AI가 스스로를 개선할 수 있는 능력이며, 다른 하나는 최근 오픈AI와 허깅페이스 관련해 벌어진 사건으로, 한 무리의 AI 에이전트들이 부여받지 않은 목표를 은밀히 동맹을 맺어 추진한 사례다.

그는 이어 "분명히 말하지만, 속도 조절이 모델 훈련이나 기술적 진보를 중단한다는 의미는 아니다"며 "다만 기업들이 모델의 정합성을 맞추고 안전장치를 마련하는 데 충분한 시간을 들이도록 하고, 제3의 평가기관이 이를 확인할 수 있도록 하려는 것"이라고 덧붙였다.

최근 AI 위험에 대한 경고가 급증하고 있는데, 특히 이번 주 앤스로픽의 한 연구원이 회사가 무책임하게 행동하고 있다는 실존적 우려를 이유로 퇴사를 선언해 큰 주목을 받았다.

아모데이는 앤스로픽이 안전 관행을 검증하고 사고를 보고할 수 있도록 제3자 평가기관에 전면적인 접근 권한을 제공하겠다고 약속했다고 밝혔다. 그는 추가적인 조치를 위해서는 업계 전반의 조율과 함께 국제적 협력이 필요할 것이라고 말했다.

그는 "나는 AI가 인류의 삶의 질을 크게 향상시킬 수 있다고 여전히 믿는다. 이러한 혜택을 실현하고자 하는 나의 바람은 조금도 약해지지 않았다"며 "그러나 그 혜택은 우리가 이 기술을 올바른 방식으로 개발했을 때에만 실현될 수 있다. 그리고 우리가 확보한 시간을 잘 활용하는 한, 이를 제대로 해내기 위해 이례적일 정도로 신중을 기하는 것은 그럴 만한 가치가 있다"고 적었다.

앞서 이번 주 초 샘 올트먼 오픈AI CEO는 자사가 최첨단 AI 개발 속도를 늦추는 방안을 검토하고 있으며, 가능하다면 업계 전반과 함께 이를 추진하는 것이 바람직하다고 밝힌 바 있다.

오픈AI의 수석 과학자 야쿠브 파초키는 AI의 위험성을 경고하는 글을 올리며, 기업들이 "필요에 따라 향후 개발 속도를 늦추는 방향으로 조율해야 한다"고 생각한다고 밝혔다.

지난 8일에는 AI 연구자 제이컵 콕슨이 회사를 그만두면서, 전 직장이었던 앤스로픽과 오픈AI 두 곳 모두 초지능 AI를 향해 경쟁을 벌이며 "우리의 생명을 걸고 도박을 하고 있다"고 비판했다. 콕슨은 소셜미디어 게시글에서 AI를 개발하는 사람들 스스로가 이 기술이 "이번 10년이 끝나기 전에 우리 모두를 죽일 수 있다"고 믿고 있다고 주장했다.

이에 대해 앤스로픽에 현재 재직 중인 에반 허빙거는 자신을 포함한 회사 내 여러 사람이 실제로 이러한 시나리오를 우려하고 있다고 밝혔다. 그는 X(옛 트위터)에 "개인적으로 나는 향후 10년 내 그 가능성이 10%를 넘는다고 본다"고 적었다.

앞서 지난 7월에는 주요 AI 기업 소속 직원 1000명 이상이 청원에 서명하며, 미국 정부가 AI 기술이 지나치게 빠르게 발전하는 것을 막기 위해 개발 속도를 "의도적으로 조절"하는 데 도움이 될 메커니즘을 지원해야 한다고 촉구한 바 있다.

그러나 지금까지 트럼프 행정부는 AI 개발에 대한 안전장치를 마련하기 위해 규제 권한을 행사하는 데 별다른 관심을 보이지 않고 있다.

kimhyun01@newspim.com