[세종=뉴스핌] 정성훈 경제부장 = 중소 제조기업 대표에게 인공지능(AI)은 먼 기술이 아니다. 불량률을 줄이고, 재고를 예측하고, 견적서를 빠르게 만들고, 납기를 관리하는 데 AI가 도움이 된다는 설명은 자주 듣는다. 정부 지원사업 안내도 온다. AI 스마트공장, 제조 AI, 데이터 기반 공정 최적화라는 표현도 익숙해졌다.

하지만 막상 현장으로 들어가면 질문은 달라진다.

"우리 회사 데이터가 어디 있나."
"엑셀 파일이 너무 제각각인데 AI가 읽을 수 있나."
"원가자료와 거래처 정보를 외부 AI에 올려도 되나."
"누가 이걸 관리하나."
"도입하면 정말 돈이 남나."

중소기업의 AI 격차는 여기서 시작된다. 문제는 AI 서비스를 쓸 수 있느냐가 아니다. 문제는 AI를 붙일 수 있는 데이터와 업무 구조가 준비돼 있느냐이다.

생성형 AI는 누구나 쓸 수 있다. 월 구독료를 내면 고성능 모델도 이용할 수 있다. 그러나 기업의 AI 전환은 개인이 챗봇을 쓰는 것과 다르다. 기업에서 AI가 생산성을 내려면 사내 문서, 거래 데이터, 생산 기록, 품질 정보, 재고 현황, 고객 응대, 회계 자료가 일정한 형식으로 정리돼 있어야 한다. 이 데이터가 없거나 흩어져 있으면 AI는 기업의 핵심 업무 안으로 들어가지 못한다.

결국 중소기업의 AI 격차는 구독료보다 데이터 정리에서 시작된다.

국내 기업들은 AI의 필요성을 알고 있다. 대한상공회의소가 산업연구원과 함께 국내 기업 500개사를 대상으로 실시한 조사에 따르면, 기업 생산성 제고와 비용 절감 등 성과 향상을 위해 AI 기술이 필요하다고 답한 기업은 78.4%였다. 그러나 실제 AI 기술을 활용하고 있다는 기업은 30.6%에 그쳤고, 69.4%는 활용하지 않는다고 답했다. 제조업의 AI 활용률은 23.8%로 서비스업 53.0%의 절반에도 미치지 못했다.

기업 규모별 격차도 뚜렷했다. 같은 조사에서 대기업의 AI 활용률은 48.8%였지만 중견기업은 30.1%, 중소기업은 28.7%였다. 지역별로도 수도권 기업의 활용률은 40.4%인 반면 비수도권 기업은 17.9%에 머물렀다. AI 격차가 기업 규모 격차이자 지역 격차로 나타나고 있는 셈이다.

중소기업만 떼어놓고 보면 격차는 더 크게 보인다. 중소기업중앙회의 2024년 '중소기업 AI 활용의향 실태조사'에서는 중소기업의 94.7%가 AI를 활용하지 않는 것으로 나타났다. AI를 사용하지 않으면서 도입 의향도 없는 기업을 대상으로 이유를 물은 결과 '사업에 AI가 필요하지 않다'는 응답이 80.7%로 가장 많았고, '회사 경영에 어떻게 도움이 되는지 잘 모른다'가 14.9%, 'AI 도입 및 유지 비용이 부담된다'가 4.4%였다.

이 수치는 중소기업이 기술 변화에 무관심하다는 뜻이 아니다. 오히려 AI가 자신의 업무와 어떻게 연결되는지 아직 보이지 않는다는 뜻에 가깝다. 대기업은 AI를 전략과 투자 언어로 받아들이지만, 중소기업은 당장 납품, 인건비, 원가, 자금, 인력 부족의 언어로 받아들인다. AI가 그 문제를 실제로 풀 수 있다는 확신이 있어야 도입이 시작된다.

문제는 AI의 성능이 아니라 AI의 효용이 현장 언어로 번역되지 못한 데 있다.

기업이 AI를 도입했다고 해서 곧바로 생산성이 오르지는 않는다. 직원 몇 명이 챗GPT나 클로드를 쓰기 시작했다고 해서 회사가 AI 기업이 되는 것도 아니다. AI 계정은 도입의 출발점일 뿐이다.

기업 업무는 개인 업무보다 훨씬 복잡하다. 영업팀은 고객과 거래 조건을 관리한다. 생산팀은 설비, 원자재, 작업자, 납기, 불량률을 본다. 구매팀은 원가와 공급망을 챙긴다. 회계팀은 세금계산서, 전표, 매출채권, 현금흐름을 관리한다. 품질팀은 검사 기록과 클레임을 축적한다.

AI가 이 업무에 들어가려면 데이터가 연결돼야 한다. 그런데 중소기업 현장에서는 데이터가 흩어져 있다. 어떤 자료는 엑셀에 있고, 어떤 자료는 종이로 남아 있다. 일부는 ERP에 있지만 제대로 입력되지 않는다. 거래처별 단가표는 담당자 개인 PC에 있고, 품질 이상 이력은 현장 반장 수첩에 있다. 설비 이상 징후는 작업자의 경험으로 기억된다.

이 상태에서 AI를 도입하면 할 수 있는 일이 제한된다. 보도자료를 요약하거나, 이메일 문장을 다듬거나, 마케팅 문안을 만드는 수준에 머물 가능성이 크다. 회사의 핵심 비용 구조인 원가, 재고, 품질, 납기, 설비, 고객 데이터를 다루지 못하면 AI는 주변 업무 도구에 그친다.

문제는 AI가 부족한 것이 아니다. AI가 읽을 수 있는 회사가 준비되지 않은 것이다.

대기업과 중소기업의 AI 격차는 여기서 벌어진다. 대기업은 사내 데이터와 AI를 연결할 수 있다. ERP(전사적자원관리), CRM(고객관계관리), 그룹웨어, 고객 데이터베이스, 연구개발 자료, 생산관리 시스템, 품질관리 시스템을 AI와 연동한다. 보안 기준을 만들고, 전담조직을 두며, 클라우드와 내부망을 나눠 운영한다. AI를 단순한 문서 작성 도구가 아니라 업무 운영체계의 일부로 넣는다.

반면 중소기업은 개별 직원의 활용에 의존하기 쉽다. 직원이 개인 유료 계정을 쓰거나, 무료 AI로 문서를 정리하는 방식이다. 회사 차원의 데이터 거버넌스, 보안 지침, 업무 프로세스 재설계가 없으면 AI 활용은 개인 역량에 머문다. 직원이 회사를 떠나면 노하우도 함께 사라진다.

글로벌 기업도 비슷한 과제를 겪는다. 맥킨지의 2025년 글로벌 AI 조사에 따르면 응답 조직의 88%가 최소 1개 업무 기능에서 AI를 정기적으로 사용한다고 답했지만, 기업 전체 차원에서 AI 프로그램을 확장하기 시작했다는 응답은 약 3분의 1에 그쳤다. 매출 50억달러 이상 기업은 거의 절반이 확장 단계에 도달한 반면, 매출 1억달러 미만 기업은 29%에 그쳤다.

이 차이는 AI 도입의 본질을 보여준다. AI는 사용 여부보다 확장 여부가 중요하다. 더 정확히는 업무 흐름을 바꾸느냐가 중요하다. 맥킨지는 AI 고성과 기업의 특징으로 개별 업무 흐름을 근본적으로 재설계하는 경향을 꼽았다. AI의 성과는 도구를 켜는 데서 나오지 않고, 업무 방식을 다시 짜는 데서 나온다는 의미다.

중소기업이 어려운 이유도 여기에 있다. AI를 사는 것은 가능하지만 업무를 다시 짜는 것은 어렵다. 인력도 부족하고 시간도 부족하다. 당장 납기와 자금 압박이 있는 기업에게 업무 재설계는 장기 투자로 보이기 쉽다.

중소기업 AI 전환이 더딘 이유를 비용 문제로만 설명하면 절반만 보는 것이다. 물론 비용은 크다. AI 솔루션 도입비, 클라우드 비용, 센서 설치비, 데이터 수집 장비, 컨설팅 비용, 직원 교육비가 붙는다. 제조 AI처럼 현장 설비와 연결되는 경우에는 비용 부담이 더 커진다.

하지만 비용보다 더 깊은 원인이 있다. 데이터와 조직 여력이다.

첫째, 데이터가 없다. 더 정확히는 데이터가 있지만 AI가 쓸 수 있는 형태가 아니다. 중소기업 현장에는 생산일지, 검사표, 거래명세서, 견적서, 발주서, 클레임 기록이 존재한다. 그러나 형식이 제각각이고 누락이 많으며, 담당자별 관리 방식이 다르다. AI가 분석하려면 표준화된 데이터가 필요하지만, 현장은 아직 그 전 단계에 머물러 있다.

둘째, 전담 인력이 없다. AI를 도입하려면 내부에서 업무를 설명할 사람이 필요하다. 외부 공급기업은 기술을 알지만 회사의 실제 병목을 모른다. 내부 직원은 업무를 알지만 AI를 모른다. 이 둘을 연결할 사람이 부족하다.

셋째, 성과를 측정하기 어렵다. AI를 도입하면 불량률이 얼마나 줄고, 납기가 얼마나 개선되고, 재고가 얼마나 줄며, 원가가 얼마나 낮아지는지 보여줘야 한다. 그런데 중소기업은 도입 전 기준 데이터가 부족한 경우가 많다. 기준선이 없으면 성과도 입증하기 어렵다.

넷째, 보안 우려가 크다. 원가자료, 고객정보, 설계도면, 거래조건을 외부 AI 서비스에 넣는 것은 위험할 수 있다. 보안 지침이 없으면 직원은 AI 사용을 꺼리거나, 반대로 통제 없이 쓰게 된다. 둘 다 문제다.

결국 중소기업 AI 격차의 진짜 원인은 비용이 아니라 AI를 받아들일 조직의 준비도다.

중소기업의 AI 전환 문제는 개별 기업의 문제가 아니다. 한국 산업의 밸류체인 문제다.

대기업이 AI를 통해 구매, 생산, 물류, 품질관리, 고객 대응 속도를 높이면 협력업체에도 같은 속도를 요구하게 된다. 납품 일정은 더 촘촘해지고, 품질 데이터 제출은 더 정교해지고, 원가 절감 압박은 더 커질 수 있다. 대기업은 AI로 공급망 전체를 실시간으로 관리하려 하지만, 협력 중소기업이 데이터를 제때 제공하지 못하면 병목이 된다.

이때 AI 격차는 협상력 격차로 바뀐다. 데이터를 빠르게 제출하고 품질 이력을 투명하게 보여줄 수 있는 협력업체는 더 높은 신뢰를 얻는다. 반대로 데이터 관리가 안 되는 기업은 납품 리스크가 큰 업체로 분류될 수 있다. AI를 잘 쓰는 기업과 못 쓰는 기업의 차이가 거래 조건, 납품 기회, 금융 접근성까지 영향을 줄 수 있다.

특히 제조업에서는 이 문제가 더 민감하다. 자동차, 조선, 반도체, 이차전지, 기계, 전자 부품 산업은 대기업과 중소 협력업체가 촘촘히 연결돼 있다. 한쪽의 디지털 수준이 높아져도 다른 쪽이 따라오지 못하면 공급망 전체의 효율은 제한된다.

AI 시대의 밸류체인은 가장 느린 데이터 속도에 맞춰 움직인다.

정부도 이 문제를 알고 있다. 중소벤처기업부는 2026년 스마트제조혁신 지원계획에서 AI 관련 지원을 확대하고, AI가 결함 탐지와 실시간 공정제어 등 의사결정과 실행에 결합되는 AI 통합 스마트공장 구축을 지원하겠다고 밝혔다. 2026년에는 자율공장 30개, AI특화 스마트공장 400개, 대·중소 협업 AI 트랙 20개 등 약 450개 과제를 지원할 계획이다.

제조AI특화 스마트공장 구축지원사업도 추진되고 있다. 2026년 공고에 따르면 국내 중소·중견 제조기업을 대상으로 AI공장 구축은 최대 9개월, 최대 2억원 한도에서 지원하고, 데이터 수집·검증은 최대 6개월, 최대 0.5억원 한도에서 지원한다. 공정 최적화와 예측 유지보수 등 제조AI 활용이 주요 지원 내용이다.

방향은 맞다. 다만 현장에서 중요한 것은 지원 규모보다 적용 가능성이다. 중소기업은 복잡한 컨설팅 보고서보다 바로 쓸 수 있는 업무 템플릿이 필요하다. 업종별로 어떤 데이터를 모아야 하는지, 어떤 형식으로 정리해야 하는지, 어떤 AI 활용부터 시작해야 하는지 알려줘야 한다.

제조업이라도 업종별 병목은 다르다. 식품기업은 원재료 가격, 유통기한, 위생, 재고가 중요하다. 금속가공 기업은 설비 가동률, 불량률, 납기, 작업자 숙련도가 중요하다. 섬유기업은 주문 변동, 원단 재고, 납기 대응이 중요하다. 뿌리기업은 작업조건과 품질 편차가 중요하다. 같은 AI 스마트공장이라는 이름으로 묶기에는 현장의 문제가 다르다.

정부 지원은 계정이나 장비를 나눠주는 방식에서 벗어나야 한다. 데이터 정리, 업무표준, 보안지침, 성과측정, 현장 교육을 패키지로 묶어야 한다.

중소기업이 AI를 도입할 때 가장 많이 하는 실수는 처음부터 거창한 목표를 세우는 것이다. 전사 AI 전환, 스마트공장 고도화, 데이터 기반 경영 같은 표현은 그럴듯하지만 현장에서는 막연할 수 있다.

필요한 것은 작은 성공이다.

첫 단계는 문서 정리다. 견적서, 발주서, 납품서, 클레임 기록, 생산일지처럼 반복적으로 발생하는 문서를 표준화해야 한다. 문서명, 날짜, 거래처, 품목, 수량, 단가, 담당자, 처리상태 같은 기본 항목부터 통일해야 한다.

두 번째 단계는 반복 업무 자동화다. 매주 작성하는 보고서, 매월 정리하는 매출표, 반복되는 견적 비교, 재고 확인, 고객 문의 답변처럼 비교적 위험이 낮고 효과가 눈에 보이는 업무부터 시작해야 한다.

세 번째 단계는 예측과 최적화다. 판매 예측, 원재료 발주량, 불량률 변화, 설비 이상 징후처럼 데이터 축적이 필요한 영역으로 확장한다.

네 번째 단계는 의사결정 지원이다. AI가 단순 정리를 넘어 어느 거래처의 리스크가 큰지, 어떤 품목의 마진이 떨어지는지, 어떤 공정에서 손실이 반복되는지 제안하는 단계다.

중소기업 AI 전환은 거대한 시스템 구축이 아니라 업무의 작은 병목을 하나씩 제거하는 과정이어야 한다.

여러 조사와 현장 사례를 종합하면 중소기업 AI 전환의 병목은 다섯 곳에서 반복된다.

첫째, 데이터 병목이다. 자료가 없어서가 아니라 흩어져 있고 표준화돼 있지 않다. AI가 분석할 수 있는 형태로 정리하는 전처리 단계가 부족하다.

둘째, 비용 병목이다. 구독료보다 도입 컨설팅, 시스템 연동, 센서 설치, 클라우드, 교육비가 부담이다. 특히 제조업은 현장 설비와 연결해야 해 초기비용이 커진다.

셋째, 인력 병목이다. 외부 공급기업과 내부 현장을 연결할 중간 인재가 부족하다. AI를 아는 사람은 현장을 모르고, 현장을 아는 사람은 AI를 모르는 경우가 많다.

넷째, 보안 병목이다. 외부 AI 활용 시 원가, 거래처, 설계, 고객정보 유출 우려가 있다. 명확한 가이드가 없으면 AI 사용이 위축되거나 통제되지 않은 사용이 늘어난다.

다섯째, 성과 병목이다. AI 도입 전 기준 데이터가 부족하면 도입 후 효과를 측정하기 어렵다. 효과를 증명하지 못하면 추가 투자가 막힌다.

이 다섯 가지 병목은 서로 연결돼 있다. 데이터가 없으면 성과를 측정하지 못하고, 성과를 입증하지 못하면 투자가 줄고, 투자가 줄면 인력을 확보하지 못한다. 인력이 없으면 데이터 정리도 안 된다. 중소기업 AI 전환이 어려운 이유는 하나의 장벽이 아니라 악순환 구조 때문이다.

해외 논의에서도 중소기업 AI 전환은 개별 기업의 노력만으로 해결하기 어렵다는 점이 강조된다. 대기업 중심의 AI 성숙도 모델을 중소기업에 그대로 적용하기 어렵고, 중소기업은 자원 제약과 비공식적 의사결정, 대표자 중심 경영, 외부 생태계 의존도가 크다는 분석이 나온다. 중소기업용 AI 성숙도 논의는 내부 역량뿐 아니라 외부 지원, 협업 네트워크, 공급기업 생태계까지 함께 봐야 한다는 방향으로 이동하고 있다.

한국에도 이 관점이 필요하다. 중소기업 한 곳이 데이터 전문가, AI 엔지니어, 보안 전문가, 공정 전문가를 모두 보유하기는 어렵다. 따라서 업종별 협회, 공공기관, 지역 테크노파크, 대학, 공급기업, 대기업 원청이 함께 참여하는 방식이 필요하다.

특히 지역 중소기업에는 공동 인프라가 중요하다. 수도권 기업과 비수도권 기업의 AI 활용률 격차가 이미 나타나는 상황에서 지역별 제조AI 지원센터, 공동 데이터 표준, 공동 보안환경, 업종별 실증공장 같은 장치가 필요하다. AI 전환을 기업 단위로만 맡기면 자원이 부족한 기업부터 뒤처질 수밖에 없다.

중소기업 AI 정책은 보조금 정책이 아니라 산업 생태계 정책이어야 한다.

중소기업 AI 격차를 줄이려면 정책 순서를 바꿔야 한다.

첫째, AI 도입 전 데이터 진단을 의무화해야 한다. 기업이 어떤 데이터를 갖고 있고, 어떤 데이터가 빠져 있으며, 어떤 형식으로 정리해야 하는지 먼저 봐야 한다. 병원 진료 전에 검사를 하듯, AI 도입 전 데이터 건강검진이 필요하다.

둘째, 업종별 AI 업무표준을 만들어야 한다. 제조업, 유통업, 농식품, 수출기업, 소상공인별로 반복되는 업무를 정리하고, 바로 적용 가능한 문서 양식과 데이터 항목을 제공해야 한다.

셋째, 보안형 AI 활용 가이드를 제공해야 한다. 어떤 자료는 외부 AI에 넣어도 되는지, 어떤 자료는 익명화해야 하는지, 어떤 자료는 내부망에서만 처리해야 하는지 명확히 해야 한다.

넷째, AI 전환 매니저를 키워야 한다. 코딩만 아는 인재가 아니라 현장 업무와 AI를 연결하는 중간 인재가 필요하다. 이들은 중소기업의 업무를 듣고, 데이터 흐름을 정리하고, 적절한 AI 활용 단계를 설계하는 역할을 해야 한다.

다섯째, 성과 측정 기준을 단순화해야 한다. 불량률 감소, 납기 단축, 재고 감소, 견적 처리시간 단축, 고객응대 시간 단축처럼 중소기업이 체감할 수 있는 지표를 중심으로 평가해야 한다.

정책의 핵심은 AI를 도입했는지 여부가 아니라 AI가 어떤 병목을 얼마나 줄였는지를 보는 것이다.

한국 경제는 대기업만으로 움직이지 않는다. 제조업 경쟁력은 수많은 중소 협력업체의 품질, 납기, 원가, 기술력 위에 서 있다. 대기업이 AI로 빨라져도 협력업체가 따라오지 못하면 공급망 전체의 속도는 제한된다.

AI 양극화는 개인의 문제가 아니라 산업구조의 문제다. 대기업은 자체 AI 플랫폼을 만들고, 중견기업은 일부 시스템을 도입하고, 중소기업은 무료 챗봇에 머무르는 구조가 굳어지면 생산성 격차는 누적된다. 이는 임금 격차, 납품단가 격차, 투자 격차, 지역 격차로 이어질 수 있다.

중소기업의 AI 전환을 복지나 지원사업으로만 보면 안 된다. 이는 한국 산업의 생산성 정책이다. 인구 감소와 인력난, 고금리 부담, 원가 압박 속에서 중소기업이 버티려면 반복 업무를 줄이고 품질과 납기를 안정화해야 한다. AI는 그 수단이 될 수 있다. 다만 AI를 붙일 수 있는 데이터와 업무표준이 먼저 있어야 한다.

문제는 중소기업이 AI를 모른다는 것이 아니다. 문제는 AI를 자신의 일에 어떻게 붙여야 할지 모르는 구조다. 해법도 명확하다. AI 계정 지원보다 데이터 정리, 업무표준, 보안 가이드, 현장형 교육이 먼저다.

중소기업의 AI 전환은 거대한 기술혁명이 아니라 납기표, 견적서, 불량기록, 재고표를 정리하는 일에서 시작된다.

■ 한 줄 요약
중소기업 AI 격차의 본질은 AI 서비스 가격이 아니라 AI를 붙일 수 있는 데이터·업무표준·전담인력이 부족한 구조에 있으며, 해법은 바우처 지급보다 데이터 정비와 현장형 AI 업무전환 체계를 먼저 구축하는 데 있다.

* [AI로 읽는 경제]는 AI 어시스턴트가 분석한 내용을 바탕으로 기자가 정리한 내용입니다. ChatGPT, Google Gemini, Perplexity, Claude AI 모델이 적용됐습니다. 상단의 'AI MY 뉴스' 로그인을 통해 뉴스핌의 차세대 AI 콘텐츠 서비스를 활용해 보기 바랍니다.

jsh@newspim.com