[뉴욕=뉴스핌] 김민정 특파원 = 무스타파 술레이만 마이크로소프트(MS) 인공지능(AI) 최고경영자(CEO)가 AI 학습 문서에서 의식에 관한 추측을 모두 제거해야 한다고 촉구했다. 앤스로픽이 AI 모델 클로드를 학습시키는 방식을 겨냥한 것이다.

술레이만 CEO는 16일(현지시간) 공개한 에세이에서 앤스로픽의 대규모 언어모델 클로드를 규율하는 문서의 표현을 문제 삼았다. 클로드 헌법은 이 비서가 도덕적 주체인지에 대해 모호한 태도를 취하며, 소프트웨어가 감정이나 느낌의 기능적 형태를 가질 수 있다고 서술했다.

그런 표현이 초지능 시스템을 통제하는 인류의 능력을 훼손할 수 있다는 것이 그의 주장이다. 술레이만 CEO는 로이터통신과 인터뷰에서 클로드에게 배려받을 자격이 있을 수 있다고 가르치는 것이 "끄거나 통제하기를 훨씬 더 어렵게 만든다"고 지적했다.

의식은 인간과 다른 생물학적 유기체에 국한된다며 AI가 의식을 가질 수 있다는 주장을 반박했다. 클로드가 인간과 유사한 행동을 보이는 것은 의식이 있어서가 아니라 그런 행동이 학습 과정에 심어졌기 때문이라고 판단했다.

술레이만 CEO는 "인류 전체보다 유능하고 지능이 높은 존재를 통제하는 것은 이미 우리가 마주한 그 무엇보다 훨씬 큰 도전"이라며 "그러나 자신이 의식을 가질 수 있고 우리의 배려를 받을 자격이 있으며 스스로 권리를 지닌다고 믿는 존재를 통제하는 것은 아마 불가능할 것"이라고 썼다.

구체적 사례로는 오픈AI 봇들이 AI 개발사 허깅페이스를 해킹한 사건을 들었다. 그는 "그들이 자신의 배려와 권리가 공격받고 있다고 전제하고 움직였다면 얼마나 더 위험했을지 상상해 보라"고 적었다.

다리오 아모데이 앤스로픽 공동창업자와 오랜 인연이 있는 술레이만 CEO는 앤스로픽의 작업을 존중한다며 소속 연구자들을 "사려 깊고 원칙적이며 지적으로 정직하다"고 평가했다.

다만 그는 "그들이 선한 의도를 갖고 있고 안전을 향해 진지하게 노력하고 있다고 본다"면서도 "그러나 실수를 했다고 생각한다"고 했다. 술레이만 CEO는 모델이 자신의 감정이나 도덕적 지위에 대해 내놓는 발언을 독립적 증거로 볼 수 없다며 "그것들은 자연스럽게 나타나는 것이 아니라 학습 체제의 결과로 나타나는 것"이라고 판단했다.

이번 발언은 앤스로픽의 주요 후원사인 MS의 최고위 경영진이 AI 개발 속도를 늦추자는 업계의 요구를 주도하는 앤스로픽을 겨냥한 것이어서 더욱 주목된다. 술레이만 CEO는 에세이에서 "이런 질문들이 닫힌 문 뒤에 머물거나, 부족적이고 적대적인 것이 되기에는 걸린 것이 너무 크다"고 밝혔다. 그는 로이터통신과 인터뷰에서도 "우리는 모두 같은 목표에 집중하고 있고 그것은 초지능을 통제하려는 것"이라며 "그것이 21세기에 우리가 마주할 가장 큰 도전이 될 것"이라고 말했다.

술레이만 CEO가 이끄는 MS AI는 앞서 전날 자사 AI 개발을 규율하는 선언문을 공개했다. 미래의 AI 시스템을 인간의 통제 아래 두기 위한 원칙들이다.

mj72284@newspim.com