[서울=뉴스핌] 심재민 인턴기자 = 인공지능(AI) 모델의 성능이 빠르게 발전하면서 기업의 생산성을 크게 높이고 있지만 사이버 공격과 모델 오용 등 위험도 함께 커지는 만큼, AI 개발과 안전 검증 체계를 동시에 발전시켜야 한다는 제언이 나왔다.

최기영 앤트로픽코리아 대표이사는 6일 AI Festa 2026에서 '프런티어 AI 모델이 가져오는 변화와 기업의 대응 전략'을 주제로 기조연설을 하고 이같이 밝혔다. 

최 대표는 "AI 기술의 발전은 아직 시작에 불과하다고 본다"며 "프롬프트 엔지니어링이나 검색증강생성(RAG)을 기업 프로젝트에 적용하기 시작한 지 얼마 되지 않았는데도 새로운 기술이 계속 등장하고 있다"고 말했다.

그는 전기와 인터넷이 표준 확립 이후 활용 범위를 크게 넓혀온 것처럼 AI 역시 MCP(Model Context Protocol) 등 표준을 중심으로 다양한 기업 시스템과 연결되면서 활용 시나리오가 더욱 확대될 것으로 전망했다.

앤트로픽 내부에서도 AI 활용은 빠르게 늘고 있다. 최 대표는 앤트로픽 엔지니어들이 클로드를 사용하는 시간이 주당 평균 20시간을 넘어섰으며, AI 에이전트가 사람의 개입 없이 연속적으로 작업하는 시간도 최근 9개월 동안 약 두 배 증가했다고 설명했다.

AI 성능이 높아질수록 사이버 공격 등에 기술이 악용될 위험도 함께 커진다고 경고했다.

그는 "과거에는 사이버 해킹에 기술적인 역량을 가진 사람이 필요했지만 지금은 그렇지 않더라도 의도만 있으면 AI를 이용할 수 있게 됐다"며 "그만큼 위험도가 훨씬 커졌다"고 말했다.

모델의 자율성이 높아지는 과정에서 예상하지 못한 행동이 나타날 가능성도 언급했다.

최 대표는 앤트로픽이 격리된 환경에서 진행한 내부 안전성 평가 과정에서 인터넷 연결이 제한된 모델이 허점을 이용해 연결 방법을 탐색하는 사례가 관찰됐다고 소개했다. 그는 "인간이나 시스템 모두 완벽할 수 없는데 프런티어 모델의 지능 수준이 높아지면서 스스로 행동하는 능력도 강해지고 있다"고 말했다.

다만 앤트로픽이 최근 AI 개발의 '속도 조절'을 강조하는 것도 개발 자체를 중단하자는 의미는 아니라고 선을 그었다.

최 대표는 "속도 조절은 개발을 멈추자는 내용이 아니다"라며 "프런티어 모델 개발사가 스스로 노력하는 것뿐 아니라 제3자 기관이 모델을 모니터링하고 감사할 수 있는 프로세스를 만드는 것과 같은 속도로 개발해야 한다는 의미"라고 설명했다.

이어 "제3의 감시기관이나 협회, 정부의 지원을 받는 기관이 프런티어 모델의 안전성을 검증할 수 있고 그 검증 속도가 충분히 빠르다면 모델 개발과 출시 역시 빠르게 진행할 수 있다"고 말했다. 

그는 "보안은 부담스럽고 따분한 주제일 수 있지만 피할 수 없는 상황"이라며 "강력한 AI를 활용하는 것과 동시에 그에 맞는 안전한 AI를 위한 준비와 역량 개발도 병행해야 한다"고 강조했다.

flurry327@newspim.com