엔비디아 GPU와 다르다
MS-AMZN에 부정적
이 기사는 10월 28일 오후 2시59분 '해외 주식 투자의 도우미' GAM(Global Asset Management)에 출고된 프리미엄 기사입니다. GAM에서 회원 가입을 하면 9000여 해외 종목의 프리미엄 기사를 보실 수 있습니다.
[서울=뉴스핌] 황숙혜 기자 = 최근 구글과 앤스로픽의 인공지능(AI) 칩 거래에 월가는 십 수 년 전 개발된 소위 '구글 칩'이 마침내 '스위트 스팟'을 맞았다는 데 한 목소리를 낸다.
사실상 엔비디아(NDA)가 독점하는 AI 칩 시장에서 알파벳(GOOGL)의 자회사 구글의 TPU(텐서 처리 장치, Tensor Processing Unit)의 존재감이 확인됐다는 것.
이번에 공개된 두 업체간 계약 조건에 따르면 앤스로픽은 자사 AI 플랫폼 클로드(Claude)의 거대언어모델(LLM)의 훈련과 실행을 위해 구글 TPU를 최대 100만개까지 사용할 수 있게 됐다. 오픈AI의 경쟁사로 꼽히는 앤스로픽은 이번 딜에 따라 구글 클라우드 서비스도 사용할 예정이다.
이번 딜은 지난 2023년 양사가 체결한 계약의 확장으로, 오픈AI가 최근 AMD(AMD)와 엔비디아(NVDA), 브로드컴(AVGO)과 연이어 맺은 대규모 계약에서 알 수 있듯 AI 업체들이 컴퓨팅 파워에 바짝 목마른 모양새다.
앤스로픽은 구글 TPU를 선택한 배경으로 가격 대비 성능과 효율성을 꼽았다. AI 인프라 비용이 갈수록 상승하면서 업체들은 칩 가격 대비 성능을 우선시하는 상황이다.
시장 전문가들은 이번 구글과 앤스로픽의 계약이 TPU 사업에 대한 검증이라는 데 한 목소리를 낸다. 구글은 TPU를 주로 내부적으로 사용했는데 앤스로픽과 딜의 확장을 통해 외부 수요가 확인된 셈이라는 설명이다.
TPU는 앤스로픽 이외에 다른 IT 업체에도 판매되고 있지만 이번 딜을 통해 보다 광범위한 도입 가능성이 확인됐다고 투자은행(IB) 업계는 말한다.
월가의 애널리스트는 TPU를 매우 독특한 자산으로 본다. TPU가 엔비디아의 GPU(그래픽 처리장치)와 구별되는 특이점 때문이다.
우선 구글의 TPU는 수직 전력 공급 방식을 사용한다. 이 때문에 측면 전력 공급 방식을 사용하는 엔비디아의 칩보다 전력 효율성이 우수하다고 업계 전문가들은 말한다.
보도에 따르면 구글 클라우드 TPU v3는 칩당 약 120~150와트의 전력을 소비하는 반면 엔비디아의 테슬라 V100은 250와트, A100은 400와트를 사용한다. 전력 소모량이 이 같이 현격한 차이를 보이는 이유는 전력 공급 방식 때문이다.
설계의 근본적인 목적에서도 구글 TPU와 엔비디아 GPU는 상당한 차이를 보인다. TPU는 딥러닝에서 사용하는 텐서 연산, 특히 텐서 대수의 가속화를 위해 특별히 설계된 ASIC(Application-Specific Integrated Circuit, 애플리케이션 특화 집적회로)이다.
GPU와 달리 범용 목적이 아니라 한 가지를 예외적으로 잘 수행하도록 만들어진 칩이라고 구글은 설명한다. GPU는 본래 그래픽 랜더링을 위해 개발됐다가 이후 AI와 딥러닝을 포함해 광범위한 컴퓨팅 작업에 적용될 수 있도록 진화된 사례다. 처음부터 머신러닝만을 위해 제작된 TPU와 출발부터 다르다는 얘기다.
GPU는 본래 비디오 게임이나 시각 효과 등 그래픽을 빠르게 처리하기 위해 개발됐는데 대용량 데이터와 연산을 처리할 수 있기 때문에 AI 모델 학습에도 유용하게 쓰이고 있다. 이와 달리 TPU는 특정 목적을 위해 설계된 ASIC 유형의 제품에 해당한다.
성능에서도 두 개 제품은 상이하다. 특정 AI 모델을 훈련하는 데 엔비디아의 테슬라 V100 GPU가 40분 걸리는 작업을 구글 클라우드 TPU는 15분만에 완료했다. 특정 모델 배치에서도 엔비디아의 칩이 3.8밀리초 걸리는 작업을 TPU는 1.7밀리초만에 해냈다.
구글 TPU 최신 칩이 거대언어모델 훈련에서 이전 칩보다 최대 2.8배 빠르고, 엔비디아의 H100과 대등하거나 우수한 성능을 보인다고 외신들은 전했다.
구글은 칩 설계와 제조를 위해 브로드컴과 파트너십을 맺고 있지만 보도에 따르면 보다 저렴한 옵션으로 대만의 미디어텍을 추가하는 방안을 검토중이다.
AI 개발 업체들이 비용과 공급난 등 현실적인 문제로 인해 엔비디아의 가속기 칩 의존도를 낮추기 위한 방안을 모색하는 상황과 맞물려 구글과 앤스로픽의 딜이 TPU의 위상을 더욱 높인다고 블룸버그는 보도했다.
대규모 계약이 구글의 기술력에 대한 강력한 신뢰의 표현으로 볼 수 있고, 아마존(AMZN)이나 마이크로소프트(MSFT)에 뒤처진 구글 클라우드 사업에도 커다란 호재라는 판단이다.
투자은행(IB) 업계와 외신들은 이번 딜의 파급 효과에 관심을 집중한다. TPU가 크게 주목받게 되면서 앤스로픽 이외에 다른 AI 스타트업이나 빅테크가 구글 칩과 클라우드를 적극 고려할 가능성이 높아졌다는 얘기다.
시포트는 보고서를 내고 "구글과 앤스로픽의 협약은 TPU에 대한 강력한 검증"이라며 "이번 딜로 인해 더 많은 기업들이 TPU 사용을 고민하게 될 것"이라고 전했다. 보고서는 "이미 많은 기업들이 검토 중이었는데 이제 훨씬 늘어나고 있다"고 덧붙였다.
구글은 지난 2013년 첫 TPU 개발을 시작했고, 2년 뒤 출시했다. 당시에는 웹 검색 엔진 속도를 높이고 효율을 개선하는 데 사용됐고, 2018년부터 구글 클라우드 플랫폼에도 탑재됐다. 이에 따라 고객들은 검색 엔진을 강화했던 기술의 컴퓨팅 서비스를 직접 사용할 수 있게 된 셈이다.
TPU는 구글 자체 앱의 AI 및 머신러닝 과업 가속기 역할도 해내고 있다. 구글과 딥마인드는 제미나이를 포함해 최첨단 AI 모델을 개발하며 AI 팁의 피드백을 칩 설계에 반영, 칩 커스터마이징이 AI 개발에도 기여했다.
AI 칩 시장의 판도변화를 예고하는 목소리도 나온다. 여전히 엔비디아의 칩이 압도적인 1위를 차지하는 가운데 지극 변동이 나타날 수 있다는 의견이다.
엔비디아 칩은 오랜 기간 GPU를 만든 노하우와 강력한 성능, 소프트웨어 지원, 범용성 등을 앞세워 AI 시장의 표준으로 자리잡았지만 수요 폭증으로 인해 가격이 크게 뛰었고, 공급난이 지속되는 상황이다.
반면 구글의 TPU는 AI 작업에 최적화 돼 별도의 불필요한 칩 부품을 제외할 수 있고, 실제로 AI 워크로드에 더 나은 성능을 제공하는 경우가 많다고 시포트는 주장한다.
7세대에 이른 구글 TPU의 성능이 크게 향상된 동시에 에너지 효율성 개선에 따라 운영 단가도 낮아진 만큼 엔비디아 GPU를 대체할 칩으로 적극 고려할 만 하다는 주장이다.
반면 TPU의 범용성을 지적하는 의견도 나왔다. 키뱅크는 보고서에서 "TPU가 GPU에 비해 범용성이 떨어진다'며 "다만, 앤스로픽과 계약을 통해 구글 클라우드의 점유율 상승과 TPU의 전략적인 역할이 입증됐다"고 전했다.
최근까지 TPU의 고객에는 앤스로픽 이외에 세일즈포스(CRM), 미드저니, 오픈AI 공동 창업자 일리야 수츠케버가 지난해 설립한 세이프 수퍼인텔리전스 등이 있다.
shhwang@newspim.com
