AI 핵심 요약
beta- KT는 27일 500개 이상 AI 모델 통합 플랫폼을 공개했다
- 토큰팩토리는 모델 선택부터 사용량·비용·보안을 관리한다
- KT는 30일 출시 후 기업 AX 시장 공략을 확대한다
!AI가 자동 생성한 요약으로 정확하지 않을 수 있어요.
자체 최적화 기술로 토큰 사용량 최대 25% 절감
오픈라우터와 국내 첫 제휴…글로벌 AI 유통 확대
[서울=뉴스핌] 서영욱 기자 = KT가 500개 이상의 글로벌 인공지능(AI) 모델을 하나의 플랫폼에서 이용하고 사용량과 비용까지 통합 관리할 수 있는 서비스를 선보인다. 기업들이 업무 특성에 따라 다양한 AI 모델을 활용하는 '멀티 AI' 시대를 겨냥해 통신사업에서 축적한 연결·과금·보안 역량을 AI 시장으로 확장한다. AI 사용량을 측정하는 '토큰(Token)'을 새로운 수익원으로 삼아 기업용 AI 전환(AX) 시장 공략에 속도를 낸다는 전략이다.
KT는 27일 오전 서울 종로구 광화문 West 빌딩에서 기자간담회를 열고 AI 모델 선택부터 이용량 분석, 비용 관리, 보안 기능까지 통합 제공하는 AI 플랫폼 'KT 토큰팩토리(KT Token Factory)'를 공개했다. 오는 30일 정식 출시해 기업 고객을 중심으로 서비스를 확대할 계획이다.
토큰은 AI가 질문을 이해하고 답변을 생성하는 과정에서 처리하는 기본 단위다. 통신시장에서 음성통화 시간과 데이터 사용량이 요금 산정 기준이었다면 AI 시대에는 토큰 사용량이 비용을 결정하는 핵심 지표로 자리 잡고 있다.
AI 모델이 빠르게 다양해지면서 기업들의 이용 방식도 달라지고 있다. 번역과 문서 요약, 코딩, 복잡한 추론 등 업무에 따라 요구되는 성능과 비용이 다른 만큼 하나의 AI 모델만으로 모든 업무를 처리하기보다 여러 모델을 선택적으로 사용하는 수요가 늘고 있다.
문제는 관리 비용이다. 기업이 여러 AI 서비스를 개별적으로 구독하면 부서별 사용 현황과 지출 규모를 파악하기 어렵고, 같은 업무에도 필요 이상의 고성능 모델을 활용해 비용이 증가할 수 있다. KT는 이러한 기업들의 수요를 새로운 AX 사업 기회로 판단했다.
토큰팩토리는 국내외 500개 이상의 AI 모델을 하나의 플랫폼에서 제공한다. 기업은 모델별로 별도 계약하거나 이용 환경을 구축할 필요 없이 가입부터 모델 선택, 사용량 확인, 비용 관리, 결제까지 통합적으로 처리할 수 있다.
KT는 이를 위해 글로벌 AI 모델 유통 플랫폼인 오픈라우터(OpenRouter)와 국내 최초로 공식 파트너십을 체결했다. 오픈라우터가 확보한 글로벌 AI 모델을 KT 플랫폼에 연결하고 자체 AI 추론 서비스까지 결합해 기업 고객의 선택 폭을 넓혔다.
핵심 경쟁력은 AI 이용 비용을 줄이는 최적화 기술이다. KT는 자체 개발한 '오토 모델 라우터(Auto Model Router)'를 적용해 업무 유형과 난이도, 요구 품질, 비용 등을 분석하고 적합한 AI 모델을 자동으로 선택하도록 했다.
간단한 문서 요약에는 상대적으로 저렴한 경량 모델을, 복잡한 분석에는 고성능 모델을 배정하는 방식이다. KT에 따르면 이 기술은 AI 모델 선택 성능을 평가하는 글로벌 벤치마크 'RouterArena'에서 종합 1위를 기록했다.
질문의 의미를 유지하면서 불필요한 표현을 제거하는 프롬프트 압축 기술도 적용했다. 한국어 특성을 반영해 입력 토큰 수를 줄이는 방식으로, KT는 모델 최적화와 압축 기술을 통해 토큰 사용량을 최대 25% 절감할 수 있다고 설명했다.
데이터 보안과 주권 확보에도 무게를 뒀다. KT는 국내 데이터센터에서 자체 AI 모델과 글로벌 오픈웨이트 모델 등을 직접 구동하는 추론 서비스를 제공한다. 해외 AI 서비스에 대한 의존도를 낮추고 기업의 민감정보가 외부로 유출될 가능성을 줄이기 위한 조치다.
AI 이용 과정에서 개인정보와 유해 표현을 탐지하는 자체 가드레일 기술도 적용했다. 이용자가 입력한 질문뿐 아니라 AI가 생성한 답변까지 점검하며 향후 기업별 보안 정책에 따라 탐지 대상과 차단 수준을 설정하는 기능도 확대할 예정이다.
KT는 토큰팩토리를 단순한 AI 모델 유통 서비스를 넘어 새로운 플랫폼 사업으로 육성한다는 구상이다. 초기에는 여러 AI 모델을 활용하는 기업을 대상으로 서비스를 제공하고 향후 개인 고객까지 시장을 확대할 방침이다.
아울러 AI 코딩·에이전트 전문기업 유라클, CAST AI, 기업용 AI 워크스페이스 기업 타임리 등과 협력을 추진한다. 업스테이지와 다음 등 '모두의 AI' 컨소시엄 참여 기업과도 협력을 강화해 국내 AI 모델의 해외 유통까지 사업 영역을 넓힐 계획이다.
박상원 KT AX사업부문장 전무는 "AI 시장은 이제 누가 더 좋은 모델을 만드느냐보다 누가 AI를 더 쉽고 효율적으로 활용하도록 지원하느냐의 경쟁으로 전환되고 있다"며 "토큰팩토리를 기반으로 고객의 AX 전환을 지원하고 대한민국 AI 생태계 성장을 이끄는 핵심 플랫폼으로 발전시키겠다"고 말했다.
syu@newspim.com
