"우리가 기준"…인공지능 '인증' 전쟁 이미 시작됐다

기사입력 : 2023년09월27일 11:05

최종수정 : 2023년09월27일 11:06

AI환각·낮은 신뢰로 시장 적용 어려움...표준화·인증 시장 요구 높아져
글로벌 표준 선점에 미중유럽 앞다퉈...후발주자 한국 가세 "조직 일원화"

[서울·대전=뉴스핌] 김수진 기자 = "챗GPT 출시 초기엔 결과물 내놓는 속도가 중요했다면, 지금은 '얼마나 믿을 수 있느냐'가 시장의 '게임체인저'가 됐다"

인공지능(AI) 신뢰성 중요성이 커지면서 '인증'에 대한 관심이 높아지고 있다. '공식'적으로 평가받은 AI를 사용해야 '믿을 수 있다'는 인식이 시장에 퍼지고 있다.

현재 AI 인증은 시장의 성패를 좌우할 가장 중요한 요소다. 챗GPT가 잘못된 정보를 그럴싸하게 전달하는 '환각현상'을 종종 일으키면서 '신뢰성'은 선택이 아닌 필수가 됐기 때문이다. 환각현상은 AI모델이 근거가 불분명한 허위 답변을 내놓는 현상으로, 생성형AI 기술 활용에 가장 큰 걸림돌로 손꼽힌다.

챗GPT [사진=블룸버그] 2023.09.27

실제로 AI의 환각현상이 전문분야일 수록 발생 확률이 높아진다는 연구결과가 나오면서 불안감은 더욱 커지고 있다. 전문가들에 따르면 환각 현상은 과학연구나 금융분야 등 전문지식 분야에서 기존 5%에서 30%까지 증가하는 것으로 알려지고 있다. 심지어 시간이 갈수록 관련 오류율을 더욱 높아진다. 잘못된 추출 결과물을 바탕으로 또 다른 잘못된 결과물을 만들어내기 때문이다.

이로 인한 시장 불안도 높다. 올해 초보다 시장의 열기가 다소 식은 이유도 이 때문이라는 이야기도 들려온다. 국내 한 스타트업 연구원은 "챗GPT 등 AI를 탑재한 상품을 개발 중인데 공식적으로 검증할 만한 방안이 없어 잠시 관련 개발을 멈춘 상태"라며 "AI 접목은 반드시 해야 하는 상황인데, 혹여 발생할 수 있는 환각 등 문제 때문에 글로벌 시장에서 뒤쳐질까 걱정"이라고 말했다.

미국, 표준화 선도....미중 갈등, 신뢰성 경쟁에 표준 '이원화' 우려도

현재 전 세계 국가들과 글로벌 기업들은 '우리가 기준'이라고 앞다투고 있는 상황이다. 국제표준 인증을 확보·선도할 경우, 사실상 전 세계 AI시장을 좌우할 수 있기 때문이다.

글로벌 시장에서 가장 목소리를 크게 내는 국가는 미국이다. 미국은 지난 5월 4일 '핵심·신흥 기술(Critical & Emerging Technology)'에 대한 미 정부 국가 표준 전략 보고서를 전략 발표했다. 국제 표준을 선도하고 글로벌 시장 영향력을 강화하겠다는 모습이다.

중국 오성홍기와 미국 성조기. [사진=로이터 뉴스핌] 2023.09.27

실제로 미국은 인도와 일본, EU와 AI표준 관련 협력을 진행 중이다. 우리나라와도 올 4월 한미 공동핵심신흥기술 구상을 발표하며 '미국발 AI표준'에 나서고 있는 모양새다.

특히 미국 중심의 세계시장을 위협하는 중국을 배제하기 위해 타 국가와의 공동협력에 중점을 준 모습이다. 앞서 2020년 6월 미국은 GPAI(인공지능 글로벌파트너십)에 합류하면서 중국을 뺀 새 글로벌 표준 구축을 시도 중이다.

이에 반해 중국은 미국형 모델을 벗어나 독자 모델을 구현하려 노력 중이다. 하지만 후발주자이다보니 신뢰성 뿐만 아니라 이미지를 제외한 데이터 등 다양한 부문에서 아직 미국을 쫓아오지 못했다는 지적이다.

하지만 지난 2017년 출범한 AI국제표준화회의에서는 미국과 중국이 협력하는 모습이다. 회원국을 참여멤버(P) 31개국과 관찰멤버(O) 14개국으로 구성하고 있다. P멤버는 AI표준제정 관련 발언권과 투표권을 행사할 수 있도록 하고 있는데 여기에는 미국과 한국, 캐나다, 중국이 참여 중이다.

현재 AI국제표준화회의는 5개의 ISO 표준을 공식발표했고 현재 12개 ISO표준을 개발 중이다.

또 현재 SC42 워킹그룹을 형성, 캐나다는 'AI 기초 용어 정리', 미국은 '빅데이터', 아일랜드는 'AI신뢰성', 일본은 'AI 사용사례', 중국은 '지식공항' 관련한 표준안을 연구 중이다.

이밖에도 지난 4월 EU 집행위원회는 AI 규제법안을 내놓고 법안 통과를 기다리고 있다. 해당 법안이 통과되면 자연스레 관련 인증도 마련될 것으로 보인다.

문제는 국제사회를 이끌고 있는 두 국가인 미국과 중국이 갈등을 빚으면서 AI 신뢰·인증 산업도 양분화될 수 있다는 점이다. 전문가들은 미국과 중국이 가장 첨예하게 대립각을 세우고 있는 부분이 AI 신뢰성이라고 보고 있다. 미국은 글로벌 유통과 개방을 강조하지만 중국은 데이터를 주권 차원에서 다루기 때문이다.

소프트웨어정책연구소 김준영 책임연구원은 연구보고서를 통해 "데이터 개방과 AI 신뢰성 부분을 양국이 보안과 안보 이슈로 연관짓는 만큼 별다른 이슈가 발생하지 않는 이상 AI 시장(기술) 양분화는 앞으로도 지속될 것으로 보인다"고 설명했다. AI국제 인증 표준화를 위해 넘어야 할 산이 적지 않다는 의미다.

[서울=뉴스핌] 윤석열 대통령이 13일 청와대 영빈관에서 열린 제20차 비상경제민생회의 겸 대한민국 초거대 AI 도약 회의에 앞서 부스를 방문해 국내 기업들이 개발한 초거대 AI 서비스를 살펴보고 있다. [사진=대통령실] 2023.09.13 photo@newspim.com

표준화에 발벗고 나선 한국...전담조직 구성 필요

AI 후발국가인 한국도 관련 시장에서 뒤쳐지지 않기 위해 안간힘을 쓰고 있다. 신뢰성을 바탕으로 인증 체계를 빠르게 구축해야 글로벌 시장을 선도할 수 있다고 정부 차원에서도 인지하고 있다. 단 '규제'가 되지 않도록 민간 자율 인증으로 추진한다는 방침이다.

지난 13일 과학기술정보통신부는 청와대에서 열린 '대한민국 초거대 AI도약' 행사에서 AI신뢰성 제고를 강조했다.

과기부는 공신력 있는 제3 기관을 통해 평가하는 '신뢰성 검인증 체계' 계획을 발표하며CCTV, 생성형 AI기반 서비스를 중심으로 '분야별 특화 자율점검표·개발안내서'를 개발한다고 밝혔다.

이날 이종호 과기부 장관은 "거짓 답변, 편향성, 유해성 표현 등 초거대 AI한계를 극복하기 위한 기술개발을 내년부터 신규 추진하겠다"고 강조했다.

기관들도 인증제 선점에 앞다투고 있다. 한국정보통신기술협회(TTA)는 현재 국내기관 중 AI 품질 인증을 가장 선도적으로 이끌고 있다는 평가를 받고 있다. 2019년부터 AI기반 소프트웨어 등에 대한 신뢰성 확보 연구를 시작, 지난 2021년 과기부와 함께 '신뢰할 수 있는 AI 개발 안내서'를 개발하기도 했다.

현재 TTA는 올 하반기 AI 신뢰성 인증 제도 시행을 위해 평가기준 마련 등 준비 작업을 착수한 상태다. 인증제를 빠른 시일 내로 시작한다는 계획으로, 관련 기반 마련에 박차를 가하고 있다.

카카오뱅크는 이미지 처리 분야 학회 ICCV 2023, ICASSP 2023, ICIP 2023[1]에서 무자각인증과 안면 위변조 탐지기술에 대한 연구 논문이 채택됐다고 24일 밝혔다. (사진=카카오뱅크)

식품의약품안전처도 AI와 머신-러닝 성능평가 국제표준 확립에 나서고 있다. 지난 13일 한국전자통신연구원(ETRI)와 공동으로 의료기기 선진 개발을 위한 인공지능 평가 국제표준 논의를 위한 워크숍을 열며 뜨거운 관심을 받았다.

일각에서는 성공적 인증제도 확립을 위해 일관성 확보가 필요하다는 주장도 나왔다. 현재 정부와 시장에서 우후죽순으로 인증제 설립에 나서고 있는데, 정부 내 AI 전담조직 신설을 통해 일원화가 필요하다는 주장이다.

이종용 한국전자통신연구원 책임연구원은 지난달 31일 전국경제인연합회 주관 열린 'AI 기술현황과 국제규범 동향 세미나'에서 "누가 어떻게 규제·기준을 삼을 것은 중요한데 여지껏 논의가 부족했다"고 지적하며 "영국의 경우 디지털정책 일관성 확보를 위해 전담조직을 마련해 국가차원에서 관련 전략을 짜고 국제규범까지 제시하고 있다, 이점을 우리도 고민해야 한다"고 강조했다.

또 UN이 규제 전문기구 설립 계획을 밝힌 가운데, 한국도 여기에 참여해 신뢰성에 대한 목소리를 국제사회에서 내야 한다는 주장도 힘을 얻고 있다.

시장에서도 목소리를 함께 내고 있다. 신뢰성 구축을 통한 인증제도 확보가 결국 경쟁력으로 이어지기 때문이다. 인공지능 전문기업 씽크포비엘 박지환 대표는 "AI가 고도화되면서 기계가 윤리적 판단의 주체가 된 만큼 인증 등의 규제는 반드시 필요한 상황"이라며 "AI공적 인증을 어떻게 설정하느냐는 문제는 시장 경쟁력과 안전까지 영향을 미치는 문제"라고 지적했다.

이어 "결국 한국이 얼마나 관련 산업을 주도하는지에 따라 국내 AI 산업 발전이 좌우될 것"이라며 "정부가 보다 전문적인 눈으로 AI에 대한 개념 정립과 기준, 윤리 등의 가이드라인을 정립해야 한다"고 강조했다.

nn0416@newspim.com

사진

李대통령 22~26일 유엔총회 참석 [서울=뉴스핌] 박찬제 기자 = 이재명 대통령이 80차 유엔총회 고위급 회기 참석을 위해 오는 22일부터 26일까지 미국 뉴욕을 방문한다. 이 대통령은 유엔총회 기조연설을 하고 대한민국 대통령으로는 처음 안전보장이사회 토의를 주재한다. 위성락 대통령실 국가안보실장은 19일 오후 용산 대통령실 기자간담회에서 이 대통령의 유엔총회 참석 일정을 밝혔다. 이 대통령은 우선 22일 뉴욕에 도착해 세계경제포럼 의장인 래리 핑크 블랙록 회장을 만나 인공지능(AI)과 에너지 전환에 관한 협력 방안을 논의한다. 이 대통령은 미국 상·하원 의원단을 접견해 한미관계 발전을 위한 의회의 역할도 당부한다. 뉴욕에 거주하는 한인동포 간담회도 한다. 여러 세대에 걸쳐 다양한 분야에서 활동하는 뉴욕 한인 동포들과 자리한다. [워싱턴 로이터=뉴스핌] 이재명 대통령이 25일(현지시간) 미국 워싱턴 D.C. 백악관에서 도널드 트럼프 대통령과 정상회담을 앞두고 인사를 나누고 있다. 2025.08.26 photo@newspim.com 다음 날인 23일에는 유엔총회 고위급 회기 기조연설을 한다. 이 대통령은 190여 개 국가 정상들 중 7번째로 기조연설에 나선다. 위 실장은 "전 세계 정상이 모이는 자리인 만큼 대한민국 대외정책을 천명하는 주요 무대가 될 것"이라며 "민주주의 대한민국 복귀를 선언하고 한반도 정책 등 한국 정부의 외교 비전을 제시하고 인류 평화와 번영을 이뤄나가기 위한 방안을 설명할 것"이라고 말했다. 23일 오후에는 안토니우 구테흐스 유엔 사무총장을 면담하고 글로벌 현안 대응과 관련해 유엔 중심의 다자주의 강화 방안을 논의한다. 한반도 평화 정착을 위한 유엔 총장의 지지도 당부할 예정이다. 저녁에는 미 조야의 오피니언 리더와 만찬을 하면서 한미관계 발전 방안에 대한 제언을 듣고 의견을 나눈다. 뉴욕 방문 사흘째인 24일 오후 3시에는 이 대통령이 한국 대통령으로는 처음으로 유엔 안보리 공개 토의를 주재한다. AI와 국제평화 안보 주제 회의에서 '모두의 AI 기조와 국제사회 평화 안보 공동 대응'에 대한 논의를 주도할 예정이다. 마지막 날인 25일 오전에는 미 금융가 월가와 한국 금융계 인사들이 참여하는 대한민국 서밋 행사에 참석한다. 이 대통령은 글로벌 핵심 투자자들을 만나 한국 정부의 정책을 소개하고 한국에 대한 투자를 요청할 방침이다. 위 실장은 "이 자리를 통해 코리아 디스카운트를 넘어서 '코리아 프리미엄'을 본격적으로 알려 연중 최고가를 경신 중인 한국 증시에도 활력이 돌 것으로 기대한다"고 설명했다. pcjay@newspim.com 2025-09-19 14:46

사진

KT, 2만명 'IMEI·폰번호 유출 우려 [서울=뉴스핌] 양태훈 기자 = KT가 18일 서울 광화문 웨스트 사옥에서 소액결제 피해 관련 2차 브리핑을 열고, 불법 초소형 기지국(일명 펨토셀) 신호와 연계한 추가 피해 정황 및 향후 재발 방지 대책을 발표했다. KT는 전수 분석을 통해 불법 기지국 아이디(ID) 4개를 확인했고, 해당 신호를 수신한 고객이 누적 약 2만 명이라고 밝혔다. 이는 1차 브리핑 당시 KT가 발표한 2개 ID·1만 9,000여 명에서 범위가 더 확대된 수치다. 피해 고객 수도 278명에서 362명으로 늘었고, 누적 피해액도 1억 7,000만 원에서 약 2억 4,000만 원으로 증가했다. 다만, KT는 9월 5일 비정상 소액결제 패턴 차단 조치 이후 새로운 피해는 발생하지 않았다고 재차 강조했다.◆ 전수 분석으로 불법 기지국 ID 4개 확인…2만 명 신호 수신 구재형 KT 네트워크부문 네트워크기술본부장은 이날 브리핑에서 "9월 5일 비정상 소액결제 패턴을 차단한 이후 현재까지 추가 피해는 없다"며 "1차 브리핑 당시 피해 고객 278명(피해액 1.7억 원)으로 파악했으나, 이후 고객 문의(VOC) 기반 추가 분석으로 362명·2억 4,000만원으로 확대됐다"고 설명했다. [서울=뉴스핌] 류기찬 기자 = 구재형 KT 네트워크부문 네트워크기술본부장이 18일 오후 서울 종로구 KT광화문빌딩 웨스트에서 열린 소액결제 피해 관련 대응 현황 발표에 앞서 고개 숙여 사과하고 있다. 2025.09.18 ryuchan0925@newspim.com 이어 불법 초소형 기지국 추적 과정에 대해 "소액결제 2,267만 건을 전수로 펼쳐놓고 결제 패턴과 기지국 동작 패턴을 이중으로 분석한 결과, 불법 기지국 ID 4개를 검출했다"며 "이는 VOC 고객의 접속 로그에서 확인된 ID와 동일했다"고 덧붙였다. 또 "불법 기지국 신호를 수신한 고객은 누적 약 2만 명으로 산출됐다"며 "다만 뒤늦게 확인된 두 개의 ID는 작동 시간이 매우 짧아 신호 수신 고객이 상대적으로 적었다"고 부연했다. 나아가 개인정보 유출 정황에 대해서는 "1차 브리핑에서 국제 이동가입자 식별번호(IMSI)를 중심으로 설명했지만, 민관합동조사단과의 확대 분석 결과 국제 모바일 기기 식별번호(IMEI)와 휴대폰 번호도 단말 기종·사용 환경에 따라 전송될 가능성이 있다는 점을 확인했다"며 "다만 유심(USIM) 인증키는 유출되지 않았고, 고객 성명·생년월일 역시 KT를 통해 유출된 정황이 없어 복제폰 생성 가능성은 낮다"고 선을 그었다. ◆ 피해 고객 전액 보상, 2만 명에 '안전안심보험' 무상 제공 김영걸 KT 서비스프로덕트본부장은 추가 피해가 발생한 부분을 고려해 고객 케어 방안을 대폭 강화하겠다고 밝혔다. 김 본부장은 "피해 고객 전체에 대한 청구 조정을 진행 중이며, 278명은 조정 완료, 추가 확인된 84명도 금일까지 마무리하겠다"며 "신용카드 결제 시점 차이 등으로 발생한 금액은 즉시 환불 처리하고 있다"고 강조했다. [서울=뉴스핌] 류기찬 기자 = 김영걸 KT 서비스프로덕트본부장이 18일 오후 서울 종로구 KT광화문빌딩 웨스트에서 소액결제 피해 관련 대응 현황 발표를 하고 있다. 2025.09.18 ryuchan0925@newspim.com 이어 "현재 무료 USIM 교체와 유심 보호 서비스 가입을 지원하고 있다"며 "피해 우려 고객 2만 명 전원에게 'KT 안전안심보험'(가칭)을 3년간 무료 제공해 금융사기 피해를 보상하겠다"고 밝혔다. 또 "오후 3시부터 KT 매장·고객센터·홈페이지에서 피해 여부 확인 시스템을 오픈했고, 24시간 전담 고객센터를 지속 운영하고 있다"고 덧붙였다. KT는 현장 대응 강화도 예고했다. 김 본부장은 "전국 2,000개 매장을 '안전안심 전문매장'으로 전환해 후후 앱 기반의 보안 점검, 악성 앱 탐지, 피싱 대응 안내 등을 상시 지원하겠다"며 "매장별 안전안심 담당자를 지정하고 IT 서포터즈를 활용해 피싱 예방 교육을 연말까지, 내년 이후에도 지속하겠다"고 강조했다. 나아가 2차 인증 확대와 관련해서는 "고위험 업종에 대해 9월 9일부터~12일까지 PASS 생체/핀 인증을 적용했다"며 "정부·유관기관 지침과 별개로 선제적 확대를 검토하겠다"고 말했다. ◆ 펨토셀 18.9만 대 현황 공개…미사용 4.3만 대 차단·회수 착수 KT는 이날 브리핑에서 펨토셀 관리 실태도 공개했다. 구 본부장은 "총 설치 18.9만 대 중 시점별 가동 장비는 15~16만 대 수준"이라며 "3개월 미사용 4.3만 대는 연동 해지 조치했고, 2주 이내 전수 점검해 정상 사용 확인, 철거·회수 또는 영구 접속 차단을 병행하겠다"고 설명했다. 이어 불법 기지국 추정 방식과 원인에 대해 "합법 장비를 불법 개조하거나, 고출력 앰프를 추가 연결했을 가능성이 크다. 또 실내용 이동형 형태로 제작해 광범위한 커버리지를 확보한 정황이 있다"고 설명했다. 다만 "로그 분석 기준으로는 ID 4개가 확인됐고, 하드웨어 실물 대수는 수사로 확인될 것"이라고 말했다. [서울=뉴스핌] 류기찬 기자 = 구재형 KT 네트워크부문 네트워크기술본부장이 18일 오후 서울 종로구 KT광화문빌딩 웨스트에서 소액결제 피해 관련 대응 현황 발표를 하고 있다. 2025.09.18 ryuchan0925@newspim.com 복제폰 가능성 논란에 대해 손정엽 KT 디바이스본부장은 "복제폰에는 IMEI·IMSI·인증키 3가지가 모두 필요하다"며 "인증키는 유심(HSM 주입)과 서버에만 암호화 저장돼 있으며 통신망을 오가지 않는다. 따라서 IMEI·IMSI만으로는 복제 불가"라고 재차 강조했다. 한편, KT는 이번 사태를 계기로 보안 관련 투자도 확대하기로 했다. 황태선 KT 정보보안실장은 "KT는 수개월 전 향후 5년간 보안 투자 1조 원 계획을 밝힌 바 있다"며 "이번 사태를 계기로 올해·내년 우선순위를 모바일 서비스·단말 보안으로 재배치하고, 보안 거버넌스 강화도 병행하겠다"고 말했다. *용어 설명 펨토셀(Femtocell) :초소형 이동통신 기지국. 가정이나 소규모 사무실에 설치해 휴대폰 신호를 보강하는 장치. 불법 개조 시 해킹·소액결제 범죄에 악용될 수 있음.VOC (Voice of Customer) :고객 불만·문의 사항. 기업이 문제를 파악하고 대응책을 마련할 때 쓰는 데이터 소스. IMSI (International Mobile Subscriber Identity, 국제 이동가입자 식별번호) : 유심(USIM)에 저장된 번호. 이동통신망에서 가입자를 식별하는 고유 번호로, 유출될 경우 특정 가입자의 통신 기록 추적이 가능. IMEI (International Mobile Equipment Identity, 국제 모바일 기기 식별번호) :단말기(휴대폰) 고유 식별번호. 분실·도난 시 기기 차단이나 추적에 활용. USIM 인증키 : 통신사 네트워크에 가입자임을 인증하는 핵심 암호화 키. 유심 칩과 서버에만 저장되며, 유출되면 복제폰 생성 가능성이 생김. 복제폰(Clone Phone) : 정식 단말과 동일한 IMSI, IMEI, 인증키를 복사해 만든 불법 단말기. 원래 가입자처럼 네트워크에 접속할 수 있음. dconnect@newspim.com 2025-09-18 17:18