전체기사 최신뉴스 GAM
KYD 디데이
홈 글로벌·중국 글로벌경제

속보

더보기

엔비디아가 그록의 'LPU'와 손잡은 이유...AI 추론시장 역습 개시

기사입력 :

최종수정 :

※ 본문 글자 크기 조정

  • 더 작게
  • 작게
  • 보통
  • 크게
  • 더 크게

※ 번역할 언어 선택

HBM 병목 없는 '온칩 SRAM' 기술
추론시장 경쟁사 추격 저지, 어떻게?
엔비디아의 학습·추론 칩 양발 전략?
"HBM 시장 영향은 제한적", 이유는

[서울=뉴스핌] 이홍규 기자 = 엔비디아(NVDA)가 인공지능(AI) 칩 신생기업 그록(Groq)과 라이선스 계약을 체결한 것은 AI 시장의 무게 중심이 '추론'으로 이동하는 흐름에서 주도권을 놓치지 않으려는 포석으로 풀이된다.

◆"추격 허용 않겠다"

엔비디아는 AI 모델 '학습 시장'을 압도하지만 학습을 마친 모델이 사용자 질문에 답하는 '추론 시장'에서는 구글·아마존·브로드컴의 ASIC(주문형반도체)가 빠르게 추격 중이다. 특정 연산에 최적화된 ASIC은 '비용 효율성' 측면에서 엔비디아의 GPU(화상처리장치)를 앞서는 것으로 알려져 있다.

엔비디아의 젠슨 황 최고경영자 [사진=블룸버그통신]

하지만 구글 TPU(텐서처리장치)든 아마존 트레이니엄이든 모두 HBM(고대역폭메모리) 의존한다는 점에서 엔비디아 GPU와 같은 구조적 제약을 공유한다. 그록의 기술은 'HBM'을 쓰지 않고 이른바 '온칩 SRAM(설명 후술)'으로 작동하는 칩이다. 엔비디아가 그록 기술을 확보한 것은 ASIC 경쟁자들도 피할 수 없는 HBM의 데이터 병목을 우회해 추론 시장에서 새로운 선택지를 쥐어보려는 전략으로도 읽어볼 수 있다.

◆LPU 뭐가 다른가

그록의 핵심 기술은 LPU(Language Processing Unit·언어처리장치)다. 그록 측 주장에 따르면 AI 추론에 특화한 이 칩은 대형언어모델(LLM)을 GPU보다 10배 빠르게, 전력은 10분의 1만 써서 구동할 수 있다고 한다.

*그록(Groq)은 일론 머스크의 생성형 AI 모델 Grok(그록)과 이름이 비슷하지만 별개 회사다. 구글에서 TPU 개발을 주도한 조너선 로스가 창립한 회사다. 2016년 상표를 등록한 그록(Groq)은 머스크가 2023년 Grok을 발표하자 상표권 침해를 이유로 이름 변경을 요청한 바 있다.

그록 홈페이지 갈무리 [사진=그록]

비결은 메모리 구조다. GPU는 연산회로가 새겨진 다이와 메모리(HBM)가 새겨진 다이를 물리적으로 분리해 기판 위에서 배선으로 연결한다. 연산이 필요할 때마다 데이터가 메모리 다이에서 연산 다이로 왕복해야 하므로 지연시간과 전력 소모가 발생한다. 반면 LPU는 연산회로와 SRAM(정적 RAM) 메모리를 처음부터 같은 실리콘 다이 위에 함께 새긴다. 연산회로와 하나의 다이 위에 나란히 새긴다고 해서 '온칩 SRAM'이라고 한다.

SRAM은 익히 알려진 DRAM(동적 RAM)보다 데이터를 읽고 쓰는 속도가 수배~10배가량 빠르다. 전원만 공급되면 데이터를 스스로 유지하는 '정적' 구조를 갖춰서다. 하지만 DRAM은 데이터 유지를 위해 주기적으로 전기 재충전(리프레시)을 해야 한다. 이 과정에서 지연이 생긴다. SRAM은 이 과정이 필요 없어 즉각 응답이 가능하다.

◆"속도·비용 10배 우위"

그록 측 주장에 따르면 온칩 SRAM의 대역폭은 초당 80테라바이트로, GPU가 쓰는 외부 HBM의 10배에 달한다고 한다. 또 에너지 효율 차이는 더 극적이라고 한다. HBM에서 데이터를 가져올 때 드는 에너지는 온칩 SRAM을 쓸 때의 20배다. 데이터 이동을 칩 내부에서 처리하는 LPU 구조 덕분에 전체 전력 소모는 GPU의 10분의 1 수준으로 준다는 게 그록 측 주장이다.

SRAM은 원래 밀리초 단위 지연조차 허용되지 않는 틈새 분야에서 주로 쓰였다. 오작동 없는 안전성과 극한의 실시간성이 요구되는 군사·항공우주·통신 장비가 전통적 수요처였다. 위성 통신에서는 메모리 데이터 전송·접근 병목이 데이터 손실로 직결되고 미사일 유도장치에서는 밀리초 지연이 명중률을 좌우한다. 그록은 이 고속 메모리 기술을 AI 추론이라는 새로운 대규모 시장에 적용한 셈이다.

◆"이원화 전략"

엔비디아의 그록 기술 라이선스는 AI 연산용 반도체 설계의 '이원화' 전략으로 풀이된다. 대규모 모델 학습에는 기존 블랙웰·루빈 아키텍처의 GPU를 쓰고, 모델의 실시간 추론에는 그록의 LPU 기술을 탑재한 모듈을 배치하는 방식을 생각해 볼 수 있다. '학습용 칩'과 '추론용 칩'을 용도별로 나눠 출시할 수도 있다는 의미다.

엔비디아 간판 [사진=블룸버그통신]

물론 물리적 결합 방식의 세부 사항은 공개되지 않았다. 핵심은 엔비디아가 HBM 기반 범용 연산과 대안으로 부상할 수 있는 SRAM 기반 저지연 추론이라는 두 갈래 메모리 패러다임을 모두 손에 쥐어보려 한다는 것이다. 개발자로서는 엔비디아의 CUDA 플랫폼에서 모델을 학습시킨 뒤 같은 생태계 안에서 LPU 기반 추론까지 일괄로 처리할 수 있는 길이 열린다. 이는 고객을 엔비디아 생태계(경제권)에 더 깊이 묶어두는 효과를 낳는다.

◆"HBM 영향? 제한적"

다만 전문가들은 HBM 업체들에 대한 영향은 제한적일 것으로 본다. SRAM은 속도가 빠른 대신 치명적 약점이 있다. 같은 용량을 만들 때 가격이 DRAM보다 수백배 비싸고, 면적당 집적할 수 있는 트랜지스터 수가 훨씬 적다. 그록 LPU 한 개에 탑재된 SRAM이 약 230MB에 불과한 반면 최신 GPU에 장착되는 HBM은 80~192GB인 이유다. 수조개의 파라미터를 가진 초대형 모델을 학습시키려면 여전히 대용량 HBM이 필수다.

LPU의 가치가 AI 산업의 '추론 서비스 확대'가 속도를 낼수록 커지겠지만 그럼에도 HBM 수요를 대체하는 것이 아니라 보완하는 역할에 가까울 것이라는 게 전문가들의 진단이다. 어쨌든 엔비디아가 이번 거래로 학습용 GPU(HBM 결합)와 추론용 LPU(온칩 SRAM)를 모두 갖춘 '양발' 전략을 구사하겠다는 점은 분명해졌다.

bernard0202@newspim.com

[뉴스핌 베스트 기사]

사진
수능장에 '흑색 연필'만 허용된다고? [서울=뉴스핌] 송주원 기자 = 2027학년도 대학수학능력시험(수능)을 하루 앞두고 시험장에 개인적으로 가져갈 수 있는 필기구가 흑색 연필로 제한된다는 긴급 지침이 일선 학교에 전달됐다. 이는 인공지능(AI) 등을 활용한 첨단 부정행위를 예방하기 위한 조치로 풀이되지만, 시험 직전 반입 기준이 바뀌면서 현장 혼란이 우려된다. 18일 교육계에 따르면 교육부는 전국 시도교육청을 거쳐 각급 학교에 '시험장 휴대 가능 물품 변경'이라는 제목의 안내문을 긴급 배포했다. 한성숙 국무총리가 17일 오후 서울 종로구 정부서울청사 합동브리핑실에서 수능 부정행위 대응 관련 대국민 담화를 하고 있다. [사진 = 뉴스핌DB] 당초 수험생은 흑색 연필을 비롯해 컴퓨터용 사인펜과 수정테이프, 지우개, 샤프심 등을 시험장에 가져갈 수 있었다. 그러나 새롭게 전달된 안내문에는 개인이 휴대할 수 있는 필기구로 흑색 연필만 기재됐다. 반입 대상에서 제외된 수정테이프와 지우개, 샤프심 등은 각 교육청이 일괄 구매해 시험장에 지급할 방침이다. 수험생이 개인적으로 준비하는 대신 시험장에서 제공하는 물품을 사용하도록 한 것이다. 이번 지침 변경은 지우개나 수정테이프 등 일상적인 필기구에 초소형 카메라를 은닉해 시험 문제를 외부로 유출하는 등 신종 부정행위가 발생할 가능성을 사전에 차단하려는 취지로 풀이된다. 다만 수능 시행을 불과 하루 앞둔 시점에 반입 가능 물품이 대폭 축소되면서 수험생들의 혼란이 불가피할 전망이다. 시험장 학교에서도 변경된 기준을 안내하고 필요한 물품을 확보·배부하는 등 추가적인 준비 부담이 발생할 것으로 보인다.  jane94@newspim.com 2026-11-18 10:38
사진
육사, 서울 태릉 떠나 충청권으로 이전 [서울=뉴스핌] 오동룡 군사방산전문기자 = 국방부가 육·해·공군 사관학교를 하나로 묶는 '국군사관학교'의 통합본교와 대학원을 대전 자운대에 두고, 서울 태릉의 육군사관학교는 충청권으로 옮기는 방안을 검토하기로 했다. 해군사관학교(진해)와 공군사관학교(청주)는 지금 자리에 남는다. 새 교육체계는 2029학년도 신입생부터 적용한다. 국방부는 18일 오전 강신철 국방부 장관, 권칠승 더불어민주당 정책위의장, 진성준 국회 국방위원장이 함께 주재한 당정협의에서 이런 내용의 '국군사관학교 창설 기본계획 수정안'을 논의했다고 밝혔다. [서울=뉴스핌] 조승진 기자 = 더불어민주당과 정부가 18일 오전 서울 여의도 국회 의원회관에서 '미래 정예장교 양성, 국군사관학교 창설방안 당정협의'를 열고 있다. 이날 협의는 강신철 국방부 장관과 권칠승 더불어민주당 정책위의장, 진성준 국회 국방위원장이 함께 주재했다. 2026.11.18 gomsi@newspim.com 수정안은 지난 7월 당정협의에서 발표한 기본계획을 바탕으로 국회, 군 지휘부, 각 군 사관학교 관계자, 사관생도, 예비역, 민간 전문가 의견을 모아 손질한 것이다. 강 장관은 이 자리에서 "국군사관학교 창설은 대한민국 국방교육의 새로운 미래를 여는 중요한 사안"이라며 "방향은 명확하고 과감하게, 추진 과정은 면밀하고 신중하게 검토해야 한다"고 말했다. 국군사관학교의 목표로는 "헌법과 국민에 충성하고, 첨단과학기술과 인간에 대한 깊은 이해를 바탕으로 미래전의 승리를 주도할 정예장교 양성"을 제시했다. ◆ 1·4학년은 통합교육, 2·3학년은 각 군이 맡는다 수정안에 따르면 국군사관학교 아래에 통합교육을 맡는 통합본교와 대학원을 두고, 각 군 교육은 지역 캠퍼스가 맡는 '네트워크형' 구조로 짠다. 입학 직후인 1학년과 졸업 직전인 4학년은 육·해·공군 생도가 함께 교육받는다. 2·3학년 교육과 하계 군사훈련은 지금처럼 각 군이 주도한다. 합동성을 키우면서도 각 군의 고유한 특성은 살리겠다는 취지다. 미래전에 대비한 과학기술·전략 분야 석·박사 대학원도 새로 만든다. 교수진의 교육·연구 역량을 높이고, 학군·학사·육군3사관학교 등 다른 출신 장교에게도 심화교육 기회를 주기 위해 수용 인원을 단계적으로 늘린다는 계획이다. ◆ 국방부 직할로 전환하고 총장 임기는 최대 4년 국군사관학교는 각 군 소속이 아닌 국방부 직할기관으로 설치된다. 예산과 제도는 국방부가 책임지고, 교육부 등 관계 부처와 협의해 각 군 사이에 균형 잡힌 교육 여건을 갖춘다는 것이다. 총장에는 최고의 교육 전문가를 앉히고, 임기는 2년을 기본으로 하되 한 차례 연임을 허용해 최대 4년까지 맡을 수 있게 한다. 중장기 교육 비전을 흔들림 없이 추진하려는 장치다. 군무원 신분인 민간인 교수는 특정직 공무원으로 바꾸고 신규 교수도 뽑는다. 현역 교수는 연구 여건과 처우를 개선한다. 통합본교와 대학원 입지로 대전 자운대를 고른 데 대해 국방부는 "우수한 대학과 연구기관이 밀집해 교육과 연구의 시너지를 높일 수 있다"고 설명했다. 육군 지역 캠퍼스는 통합본교, 공군 캠퍼스(청주)와의 교육적 연계와 행정기관 이전 등을 고려해 충청권 이전을 검토한다. 모든 캠퍼스의 교육시설은 단계적으로 투자를 늘려 '스마트 캠퍼스'로 바꾼다. ◆ 2029학년도 신입생부터 적용, 해병대 생도는 따로 뽑는다 국방부는 수험생과 학부모의 혼란을 막기 위해 생도 선발은 지금처럼 각 군이 하도록 했다. 해병대 생도는 별도로 선발하고, 해병대 군사교육체계를 따로 만드는 방안도 검토한다. 해병대를 육·해·공군과 나란히 두는 '4군 체제' 전환을 뒷받침하기 위한 조치다. 강신철 장관은 "기존 교육의 틀을 넘어 스스로 미래의 안보 질문을 던지는 창의적 인재를 키워내겠다"며 "육·해·공군 생도들이 함께 땀 흘리며 하나의 전사공동체로 뭉쳐 어떤 전장에서도 승리하는 국군의 주역이 되도록 하겠다"고 했다. 국방부는 앞으로도 각계 의견을 더 들어 최종안을 확정할 방침이다. gomsi@newspim.com 2026-11-18 10:32
기사 번역
결과물 출력을 준비하고 있어요.
종목 추적기

S&P 500 기업 중 기사 내용이 영향을 줄 종목 추적

결과물 출력을 준비하고 있어요.

긍정 영향 종목

  • Lockheed Martin Corp. Industrials
    우크라이나 안보 지원 강화 기대감으로 방산 수요 증가 직접적. 미·러 긴장 완화 불확실성 속에서도 방위산업 매출 안정성 강화 예상됨.

부정 영향 종목

  • Caterpillar Inc. Industrials
    우크라이나 전쟁 장기화 시 건설 및 중장비 수요 불확실성 직접적. 글로벌 인프라 투자 지연으로 매출 성장 둔화 가능성 있음.
이 내용에 포함된 데이터와 의견은 뉴스핌 AI가 분석한 결과입니다. 정보 제공 목적으로만 작성되었으며, 특정 종목 매매를 권유하지 않습니다. 투자 판단 및 결과에 대한 책임은 투자자 본인에게 있습니다. 주식 투자는 원금 손실 가능성이 있으므로, 투자 전 충분한 조사와 전문가 상담을 권장합니다.
안다쇼핑
Top으로 이동