[서울=뉴스핌] 서영욱 기자 = 이정배 삼성전자 메모리사업부 사장이 4일 대만 타이베이에서 열린 글로벌 반도체 행사 '세미콘 타이완 2024'에서 기조연설을 통해 메모리 기술과 AI 발전에 필요한 미래 비전을 제시했다.
삼성전자에 따르면 이정배 사장은 '메모리 기술혁신을 통한 미래로의 도약'을 주제로 발표를 진행, AI와 메모리 산업 발전을 위한 삼성전자의 역할과 비전을 제시했다. 이 사장은 특히 AI 시대 메모리가 직면한 세 가지 과제로 ▲전력 소비 급증 ▲메모리 월 ▲부족한 저장 용량을 꼽았다.
먼저 전력 소비 문제에 대해 이 사장은 "생성형 AI의 등장으로 AI 훈련에 필요한 전력 소비가 급증하고 있다"며 파라미터 1조8000억개의 ChatGPT-4 훈련시에 148기가와트의 전력이 필요하다"고 말했다.
메모리 월 문제에 대해서는 "GPU의 계산 능력은 크게 증가했으나 메모리 대역폭이 이를 따라가지 못해 계산 성능과 메모리 대역폭 사이의 격차가 발생하고 있다"고 언급했다. 이는 AI 모델 성능을 제한하는 중요한 요소로 지적됐다.
마지막으로, 부족한 저장 용량 문제와 관련해 이 사장은 "AI 데이터 처리에 더 많은 저장 용량이 필요하며, 생성형 AI의 신뢰성을 향상시키기 위해 도입된 RAG(Retrieval-Augmented Generation)는 기존 데이터보다 훨씬 큰 벡터 데이터베이스와 고성능, 고용량 SSD를 요구한다"고 설명했다.
이 사장은 삼성전자가 이러한 과제를 해결하기 위해 "고성능, 저전력 제품과 온디바이스 AI 전용 솔루션 개발에 주력하고 있으며, 혁신적인 메모리 아키텍처를 도입하고 있다"고 전했다. 이를 달성하기 위해 고객 및 파트너사와의 협력이 중요하다고 강조하면서 삼성전자가 다양한 AI 메모리 솔루션을 소개했다.
삼성전자는 고대역폭 메모리(HBM) 혁신을 위해 로직 기술을 결합하고 있으며, HBM의 성능을 극대화하기 위한 기술 개발에 앞장서고 있다. 이 사장은 "기존 메모리 공정만으로 HBM 성능을 높이는 데 한계가 있으며, 이를 해결하기 위해 삼성전자가 파운드리와 시스템 LSI 사업을 통합적으로 운영하고 있다"고 밝혔다.
또 AI 발전을 위한 온디바이스 AI 솔루션의 중요성도 언급했다. 이 사장은 "AI가 더욱 발전하려면 엣지 디바이스에서 실시간으로 데이터를 처리할 수 있는 온디바이스 AI 기술이 필요하다"며 이를 위한 다양한 솔루션을 개발 중이라고 소개했다.
마지막으로 "삼성전자가 AI 및 메모리 기술의 선도 기업으로서 미래 도전에 직면해 있다"며 "고객의 복잡하고 다양한 요구에 응답하기 위해 업계 선두주자들과 협력해 기술 혁신을 이끌겠다"는 의지를 표명했다. 그는 "미래의 도전 과제가 크고 고객의 요구가 점점 더 복잡해지고 있어, 삼성전자가 혼자 모든 것을 해결할 수 없다"고 덧붙였다.
삼성전자는 앞으로도 파트너사들과의 긴밀한 협력을 통해 기술 혁신을 이끌고, AI와 메모리 시장에서의 리더십을 강화해 나갈 예정이다.
syu@newspim.com
