AI 핵심 요약
beta- 노타는 18일 AI 에이전트 작업 흐름까지 최적화하는 풀스택 기술을 공개했다.
- 노타는 하네스 최적화로 불필요한 추론과 재검토를 줄였다고 설명했다.
- Ultra Fast 모드는 작업 시간 47%, 출력 토큰 60%를 줄이는 것으로 나타났다.
!AI가 자동 생성한 요약으로 정확하지 않을 수 있어요.
[서울=뉴스핌] 이나영 기자= 인공지능(AI) 추론 효율화 기업 노타가 AI 에이전트의 작업 흐름까지 최적화하는 '풀스택 최적화' 기술을 공개했다고 18일 밝혔다. 동일한 AI 모델과 GPU 환경에서 코딩 에이전트의 작업 시간을 최대 47%, 출력 토큰을 최대 60% 줄일 수 있다.
노타에 따르면 기존의 AI 모델 경량화와 GPU 커널 최적화에 더해 에이전트의 작업 흐름을 제어하는 기술을 결합했다. AI 에이전트가 코드 작성과 오류 수정 등 실제 업무에 활용되면서 작업에 드는 시간과 자원을 관리하는 것이 중요해지고 있기 때문이다. 에이전트는 하나의 요청을 처리하는 동안 모델 호출과 도구 사용, 결과 확인을 반복하기 때문에 불필요한 추론과 재검토가 누적되면 사용자의 대기시간과 연산 부담이 커질 수 있다.

회사에 따르면 이번 기술의 핵심은 에이전트의 작업 흐름을 관리하는 '하네스(Harness)' 최적화다. 최근 응답 길이와 파일 수정 이력, 도구 실행 결과 등을 분석해 상황에 맞는 추론 강도를 선택한다. 이미 통과한 검증이나 불필요한 재검토를 반복하는 행동도 줄여 필요한 단계에 연산 자원을 집중하도록 했다. 모델의 답변 생성 과정과 GPU의 계산 처리도 함께 개선했으며, 여러 GPU가 빠른 실행 설정을 공유하도록 해 중복 튜닝과 대기 부담을 줄였다.
노타는 엔비디아의 전문가용 GPU 'RTX PRO 6000' 4장을 사용하는 환경에서 성능을 평가했다. 오픈소스 코딩 에이전트 '클라인(Cline)'의 기본 구성을 비교 기준으로 삼았으며, 명령어 기반 작업 수행 능력을 평가하는 'Terminal-Bench 2.1'과 소프트웨어 오류 수정 능력을 평가하는 'SWE-bench Multilingual'을 활용했다.
작업 상황에 맞춰 추론 강도를 조절하는 'Fast' 모드는 작업 시간을 최대 32%, 출력 토큰을 최대 42% 줄였고, 반복 검증까지 줄이는 'Ultra Fast' 모드는 작업 시간을 최대 47%, 출력 토큰을 최대 60% 줄였다.
별도의 장비 증설이나 모델 교체 없이 기존 AI 인프라의 활용 효율을 높일 수 있다는 점이 특징이다. 노타는 이번 기술을 코딩 에이전트를 시작으로 기업용 AI 에이전트와 다양한 생성형 AI 서비스로 확대할 계획이다.
김태호 노타 최고기술책임자(CTO)는 "AI 에이전트가 실제 업무에 도입될수록 모델의 단순 추론 속도보다 하나의 작업을 완료하는 데 필요한 시간과 연산 비용이 더욱 중요해진다"며 "노타는 모델과 GPU 최적화를 넘어 에이전트의 추론과 검증 과정까지 함께 최적화해 동일한 인프라에서 더 많은 AI 업무를 처리할 수 있도록 기술 범위를 확대하고 있다"고 말했다.
nylee54@newspim.com












