자체 개발한 21억 파라미터 경량화 언어모델 적용
개인정보 보호 강화 및 서버 추론 비용 절감 기대
초기 소규모 출시 후 사용자 반응 기반 확산 추진
[서울=뉴스핌] 양태훈 기자 = 카카오가 온디바이스(On-device) AI 서비스 출시를 예고하며 기술·프라이버시 혁신을 동시에 추진한다. 자체 개발한 경량화 언어모델을 통해 개인정보 보호 수준을 높이고, 인프라 효율화도 기대된다. 해당 서비스는 먼저 소규모 오픈 형태로 출시될 예정이다.
정신아 카카오 대표는 7일 열린 2025년 2분기 실적발표 컨퍼런스콜에서 "일부 모바일 디바이스 제조사를 제외하면, 국내에서 온디바이스 AI 서비스를 본격적으로 시작하는 기업은 카카오가 최초가 될 것"이라며 "초기에는 소규모 오픈 형태로 출시해 사용자 반응을 기반으로 점진적으로 확대해 나갈 계획"이라고 밝혔다.
카카오가 개발한 모델은 약 21억 개 파라미터 규모의 중소형 언어모델로, 빠른 응답성과 저전력 환경에서도 실행 가능한 경량화가 특징이다. 이는 기존 클라우드 기반 AI 서비스에 비해 이용자 경험 향상뿐 아니라 기업 입장에서 인프라 비용 절감 효과도 함께 기대할 수 있다.
![]() |
사진은 정신아 카카오 대표가 지난 2월 서울 중구 더 플라자 호텔에서 열린 카카오 미디어데이에서 발표를 하고 있는 모습. [사진=뉴스핌DB] |
카카오는 향후 온디바이스 AI 서비스를 카카오톡 내 다양한 기능 및 공간과 연동하여, 개인화된 사용자 경험을 제공하는 핵심 요소로 발전시킬 방침이다. 특히, 대화 맥락을 이해하고 상황에 맞는 행동을 제안하는 형태의 AI 기능이 탑재될 예정이다.
정 대표는 "해당 서비스는 카카오가 자체 개발한 온디바이스 경량화 모델을 기반으로 구성된다"며 "개인정보가 단말기 내에서만 처리되기 때문에 프라이버시 보호 수준이 가장 높은 수준으로 관리될 수 있다"고 전했다.
dconnect@newspim.com