AI 핵심 요약
beta- 구글이 26일 AI 추론 시 메모리 사용량을 줄이는 터보퀀트 기술을 발표하자 미국 메모리 관련주가 급락했다.
- 월가 전문가들은 압축 기술의 적용 범위가 제한적이며 오히려 추론 처리량을 늘려 총수요 감소로 이어지기 어렵다고 반박했다.
- 모간스탠리는 효율 향상이 자원 총소비를 늘리는 제본스 역설을 초래할 수 있다며 메모리 하드웨어 전망을 긍정으로 상향했다.
!AI가 자동 생성한 요약으로 정확하지 않을 수 있어요.
마이크론·샌디스크·씨게이트 등 주가 하락
모간스탠리 "수요 감소 아닌 확대 계기"
웰스파고 "압축 기술, 총수요 바꾼 적 없다"
이 기사는 3월 26일 오전 10시50분 '해외 주식 투자의 도우미' GAM(Global Asset Management)에 출고된 프리미엄 기사입니다. GAM에서 회원 가입을 하면 9000여 해외 종목의 프리미엄 기사를 보실 수 있습니다.
[서울=뉴스핌] 이홍규 기자 = 구글이 인공지능(AI) 모델의 추론 작업 시 메모리 사용량을 줄이는 압축 기술을 발표하면서 미국 메모리 관련주가 일제히 급락했다. 월가의 전문가들은 주가 급락의 원인이 된 수요 감소 우려에 대해 관련 기술의 적용 범위가 제한적이고 되레 추론 연산 처리량을 끌어올릴 것으로 판단되는 만큼 메모리 칩 총수요 감소로 이어지기 어렵다고 반박했다.
구글이 발표(현지시간 24일)한 압축 기술은 '터보퀀트'라는 알고리즘이다. AI 모델이 추론 작업 시 긴 텍스트를 처리할 때 그래픽처리장치(GPU)에 탑재된 메모리(고대역폭메모리<HBM>)에 임시 저장되는 중간 계산 데이터 'KV캐시'를 3비트로 압축해 저장 공간을 최소 6배 줄일 수 있다고 한다. KV캐시는 문맥이 길어질수록 GPU에 탑재된 메모리의 용량을 대량으로 차지한다.
 |
구글은 또 엔비디아 H100 GPU 기준 KV캐시 관련 핵심 연산에서 최대 8배 성능 향상을 달성했고 모델 재훈련 없이 적용할 수 있다고 했다. 같은 GPU로 더 긴 문맥을 처리하거나 더 많은 요청을 동시에 소화할 수 있게 되는 셈이다. 구글은 다수의 벤치마크(AI 모델의 정확도를 측정하는 표준 테스트)에서 검증을 완료했고 터보퀀트를 다음 달 학술 대회인 ICLR 2026에서 발표할 예정이라고 했다.
구글이 터보퀀트 기술을 발표하고 나서 미국 주식시장에서 메모리 관련주는 시차를 두고 일제히 떨어졌다. KV캐시가 문맥 길이에 따라 GPU에 탑재된 HBM 총용량의 절반까지 차지할 수 있는 만큼 'AI 메모리 수요가 줄어든다'는 우려가 마이크론테크놀로지(MU)와 같은 HBM 업체에서 HDD·SSD 업체까지 전반으로 확산된 결과다. 24일 기술 공개 하루 뒤 수요 감소 우려가 번졌다.
25일 정규장에서 종합 메모리 제조업체 마이크론은 3.4% 하락한 한편 스토리지 회사인 샌디스크(SNDK)는 3.5%, 씨게이트테크놀로지(STX)의 주가는 2.6% 떨어졌다. 샌디스크와 씨게이트의 장중 낙폭은 6.5%, 5%대에 달하기도 했다. 정규장 마감 후 거래에서도 부진한 흐름을 이어갔다.
월가에서는 이날 주식시장 반응이 과하다는 분석이 나온다. 모간스탠리는 터보퀀트가 압축하는 대상은 추론 과정에서 임시로 생성되는 KV캐시에 한정된다고 했다. AI 모델 구동에 상시 필요한 핵심 데이터인 파라미터가 GPU 메모리에서 차지하는 영역이나 훈련 작업의 메모리 수요는 줄어들지 않는다는 판단이다. 메모리 압축 대상이 GPU 메모리 전체가 아니라 KV캐시 영역만이라는 거다.
모간스탠리는 오히려 관련 기술이 총수요를 끌어올릴 수 있다고 봤다. AI 추론 부문에서는 KV캐시가 GPU 메모리를 대량으로 점유하는 것 자체가 핵심 병목 요인으로 언급되는데 이 영역이 6분의 1로 줄어들면 확보된 여유 메모리만큼 동일 하드웨어로 훨씬 길어진(4~8배) 문맥을 처리하거나 더 많은 요청을 동시에 소화할 수 있게 되기 때문이다.
모간스탠리는 또 요청 건당(쿼리당) 서비스 운영 비용이 낮아지면 AI 서비스의 수익성이 개선되고 기존에 비용 제약으로 도입이 어려웠던 분야에서 AI 채택이 확대된다고 봤다. 나아가 기존에 대형 클라우드 서버에 의존해야 했던 AI 모델을 소규모 장비에서도 구동할 수 있게 돼 AI 도입 문턱이 낮아지고 새로운 응용 분야가 활성화된다고 했다.
모간스탠리는 구글의 터보퀀트가 효율 향상이 오히려 자원의 총소비를 늘리는 '제본스 역설(Jevons Paradox)'이 나타나는 계기가 될 수 있다고 총평했다. 이런 시각에서 모간스탠리는 연산·메모리 하드웨어에 대한 장기적 영향 판단을 '중립'에서 '소폭 긍정'으로 상향해 제시했다. 클라우드 서비스 업체와 모델 플랫폼에도 긍정적이라고 했다.
웰스파고도 메모리 칩 총수요 감소 가능성에는 선을 그었다. 웰스파고의 앤드류 로차 TMT(기술·미디어·통신) 담당 애널리스트는 터보퀀트가 메모리 비용 구조에 직접적 영향을 줄 수 있다고 인정하면서도 다만 압축 기술이 수년간 존재해 왔으나 칩 조달 총량을 근본적으로 바꾼 전례는 없다고 지적했다. AI 메모리 수요의 기본 방향은 여전히 견조하다는 분석이다.
bernard0202@newspim.com
