[서울=뉴스핌] 서영욱 기자 = 엔비디아가 인공지능(AI) 시대 사이버 보안 강화를 위한 글로벌 협력체 '오픈 시큐어 AI 얼라이언스(Open Secure AI Alliance)'를 출범했다. 국내에서는 네이버와 SK텔레콤이 창립 멤버로 참여하며 AI 보안 생태계 구축에 힘을 보탠다.

◆네이버·SK텔레콤, 글로벌 AI 보안 연합 합류

엔비디아는 27일 AI 안전성과 사이버 보안을 강화하기 위해 주요 글로벌 정보기술(IT) 기업 및 연구기관과 함께 오픈 시큐어 AI 얼라이언스를 출범했다고 밝혔다.

이번 얼라이언스는 AI 모델과 에이전트의 안전성을 높이기 위한 개방형 모델, 에이전트 하네스, 보안 도구를 공동 개발하고 공유하는 것이 목표다. AI 기술이 빠르게 확산되는 가운데 특정 기업의 폐쇄형 시스템에 의존하기보다 개방형 기술을 기반으로 투명성과 신뢰성을 확보하자는 취지다.

창립 멤버에는 엔비디아를 비롯해 마이크로소프트(MS), IBM, 레드햇, 시스코, 클라우드플레어, 팔로알토네트웍스, 허깅페이스, SAP, 세일즈포스, 델 테크놀로지스 등 글로벌 기업들이 참여했다. 국내에서는 네이버와 SK텔레콤이 이름을 올렸다.

네이버와 SK텔레콤은 AI 서비스와 대규모언어모델(LLM), AI 에이전트 사업을 확대하고 있는 만큼 글로벌 기업들과 함께 AI 보안 기술 및 개방형 생태계 구축에 협력할 전망이다.

◆개방형 AI 보안 기술 공동 개발

얼라이언스는 AI 보안의 핵심이 모델 자체뿐 아니라 아이덴티티, 권한 관리, 가드레일, 평가 체계 등 에이전트 전체 구조에 있다고 보고 관련 기술을 오픈소스로 개발한다는 계획이다. 이를 통해 보안 담당자들이 AI 시스템을 직접 검증하고 취약점을 빠르게 개선할 수 있도록 지원한다.

엔비디아는 이를 위해 개방형 모델과 데이터, 에이전트 하네스 연구 성과를 제공하고, 객체 지향 AI 에이전트 연구 프로젝트인 'NOOA(NVIDIA Labs Object-Oriented Agent)'도 오픈소스로 공개했다.

참여 기업들도 역할을 분담한다. 허깅페이스는 AI 모델을 안전하게 저장하는 '세이프텐서(Safetensors)'를 제공하고, 마이크로소프트는 다중 AI 모델을 활용한 보안 점검 기술을 지원한다. IBM과 레드햇은 오픈소스 공급망 보안을 강화하는 기술을 개발하며, HPE는 AI 에이전트 신원 검증을 위한 제로 트러스트 프레임워크 구축에 참여한다.

엔비디아는 "AI 안전은 폐쇄형 모델과 개방형 모델 가운데 하나를 선택하는 문제가 아니라 두 방식을 함께 활용해 보안성과 투명성을 높이는 것이 중요하다"며 "정부와 산업계, 연구기관이 협력해 AI 시대의 공동 보안 체계를 구축해야 한다"고 밝혔다.

syu@newspim.com