[서울=뉴스핌] 양태훈 기자 = 인공지능(AI) 인프라 관리·운영 소프트웨어 기업 래블업이 오는 29일 서울 삼성동 코엑스 3층 컨퍼런스룸에서 연례 기술 컨퍼런스 'lab | up > /conf/6'를 개최한다.

래블업은 올해로 6회째를 맞는 이번 행사에서 AI 인프라 기술과 연구개발 성과를 공유하고 기업 관계자와 개발자들이 AI 시스템 구축·운영 과정의 기술적 과제와 해결 방안을 논의한다고 9일 밝혔다.

'lab | up > /conf/6'는 2021년 온라인 행사로 시작했다. 올해 주제는 'Make AI Composable²'로, 지난해 제시한 'Make AI Composable' 개념을 확장해 AI 모델과 반도체, 인프라, 데이터, 에이전트 기술을 필요에 따라 선택·조합하고 하나의 환경에서 운영하는 AI 인프라 구조를 다룬다.

행사에서는 대규모 AI 모델 학습을 위한 그래픽처리장치(GPU) 인프라뿐 아니라 ▲추론 성능 및 비용 효율화 ▲다양한 AI 가속기 활용 ▲멀티클라우드 운영 ▲AI 에이전트 관리·보안 ▲모델 연결과 토큰 사용량 관리 등 실제 서비스 운영 단계에서 요구되는 기술을 다룰 예정이다.

신정규 래블업 대표는 'AI 산업 시대의 엔드투엔드에 대하여'를 주제로 오프닝 키노트에 나선다. AI 인프라 구축부터 모델 학습·추론, 서비스 운영까지 전 과정을 연결하는 엔드투엔드 AI 플랫폼과 래블업의 기술 방향을 소개할 예정이다.

'AI 병목을 해결하는 인퍼런스 최적화'를 주제로 한 패널 토크도 진행된다. 김준기 래블업 최고기술책임자(CTO)를 비롯해 노정석 비팩토리 대표, 김태호 Nota AI CTO, 이진원 하이퍼엑셀 CTO, 이활석 업스테이지 CTO가 참여해 AI 서비스 확대에 따른 추론 성능과 인프라 효율화 방안을 논의한다.

래블업은 이번 행사에서 여러 AI 모델을 하나의 창구로 연결하는 'Continuum Router'와 통합 관리 계층인 'Continuum Hub'도 소개한다.

김종민 래블업 Go-to-Market 리드는 발표 세션에서 다양한 AI 모델 간 요청을 라우팅하고 토큰 사용량을 통합 관리하는 기술을 중심으로 회사가 제시하는 '토큰팩토리(Token Factory)' 개념을 설명할 예정이다. 행사장에서는 참가자들이 Continuum Router와 Continuum Hub 기능을 직접 확인할 수 있는 데모도 진행한다.

이외에도 ▲AI 인프라 ▲인퍼런스·서빙 ▲AI 에이전트 ▲플랫폼 엔지니어링 ▲보안 ▲데이터 파이프라인 ▲피지컬 AI 등을 주제로 기술 동향과 실제 AI 시스템 구축·운영 과정의 사례를 공유한다.

외부 연사로는 NVIDIA, VAST Data, kt cloud, FuriosaAI, Samsung Welstory, RLWRLD, AIM Intelligence, KAIST 등이 참여한다.

주요 발표 주제는 ▲AI Agent 시대의 시스템 가속 ▲AI Factory 구축의 핵심 원칙 ▲Composable 플랫폼 설계 ▲퓨리오사AI의 'RNGD' 기반 고성능 거대언어모델(LLM) 서빙 ▲기업 환경의 AI Agent 워크플로우 ▲AI 에이전트 보안 ▲멀티에이전트 시스템을 위한 효율적인 LLM 서빙 등이다.

신정규 대표는 다양한 AI 모델과 인프라를 연결하고 생성되는 토큰을 효율적으로 관리하는 역량의 중요성이 커지고 있다며, 이번 행사를 통해 'Make AI Composable²'와 '토큰팩토리'가 실제 AI 운영 환경에서 구현되는 방식을 소개하겠다고 밝혔다.

dconnect@newspim.com