[서울=뉴스핌] 이나영 기자= 글로벌 멀티미디어 IP 전문기업 칩스앤미디어가 인공지능(AI) 반도체의 메모리 병목을 줄이기 위한 데이터 압축(Data Compression·DC) IP를 공개하고 AI 엣지 및 서버 시장 공략에 나선다.

7일 칩스앤미디어는 AI 연산 과정에서 발생하는 피처맵(Feature Map)을 무손실로 압축하는 데이터 압축 IP를 개발하고 있다고 밝혔다. 비디오 이외의 응용 분야를 겨냥해 선보이는 첫 멀티미디어 IP로, 기존 비디오 코덱 중심에서 멀티미디어 IP로 사업 영역을 확대한다는 계획이다.

최근 엣지 디바이스와 서버의 AI 추론 연산량이 증가하면서 NPU(신경망처리장치)의 연산 성능과 함께 메모리 대역폭의 중요성이 커지고 있다. AI 연산 과정에서 생성되는 대규모 활성화 데이터인 피처맵을 DRAM 등 외부 메모리에서 반복적으로 읽고 쓰면서 데이터 트래픽이 발생하기 때문이다.

외부 메모리 대역폭이 한계에 도달할 경우 NPU의 연산 성능이 충분하더라도 데이터 공급이 지연되면서 연산 유닛이 대기할 수 있다. 메모리 접근이 잦아지면 시스템 전력 소비도 늘어나 모바일·임베디드 환경에서는 전력 효율과 발열 관리 부담으로 이어질 수 있다.

칩스앤미디어의 데이터 압축 IP는 NPU와 외부 메모리 사이에서 피처맵 데이터를 실시간으로 압축·복원하는 방식이다. 무손실 압축을 적용해 원본 데이터를 그대로 복원할 수 있도록 설계했으며, 압축 과정에서 AI 모델의 추론 정확도가 저하되는 것을 방지하는 데 초점을 맞췄다.

회사가 ResNet, MobileNet, YOLO 등 주요 비전 네트워크를 대상으로 테스트한 결과 데이터 형식별 메모리 대역폭 절감률은 FP16 35.2%, BF16 45.7%, INT8 53.5%로 나타났다. 회사는 이를 통해 동일한 메모리 환경에서 NPU가 활용할 수 있는 실질적인 메모리 대역폭을 확대하고 시스템 처리 효율을 높일 수 있다고 설명했다.

기존 시스템과의 통합을 고려해 '인라인 AXI 브리지(Inline AXI Bridge)' 구조도 적용했다. 데이터 압축 IP를 기존 NPU와 AXI 버스 사이에 배치하는 방식으로, 별도의 내부 SRAM 없이 기존 AXI 클럭을 활용하도록 설계했다. INT8·FP16·BF16 등 다양한 데이터 형식을 지원하며 고속 데이터 흐름을 처리하기 위한 라인레이트(Line-rate) 처리 기능도 갖춘다.

현재 칩스앤미디어는 데이터 압축 IP의 핵심인 피처맵 압축 알고리즘과 C-모델 개발을 마쳤으며, 2027년 1분기 하드웨어 구현 완료를 목표로 개발을 진행하고 있다.

향후에는 피처맵을 시작으로 정적 가중치(Static Weight) 압축과 대규모언어모델(LLM)·비전언어모델(VLM)의 KV 캐시(KV Cache) 압축까지 제품군을 확대할 계획이다.

칩스앤미디어 관계자는 "20년 이상 축적해 온 하드웨어 IP 설계 역량과 전력·면적·성능 최적화 기술을 기반으로 기존 비디오 코덱 시장에서의 경쟁력을 유지하는 동시에 AI 및 고성능 멀티미디어 IP 시장으로 사업 영역을 확대할 것"이라고 말했다.

이어 "데이터 압축 IP를 시작으로 비디오 연관 IP 제품군을 지속적으로 확대해 멀티미디어 IP 포트폴리오를 구축할 계획"이라며 "글로벌 주요 고객사의 검토와 채택을 확대해 새로운 성장동력으로 육성하겠다"고 밝혔다.

nylee54@newspim.com