[서울=뉴스핌] 송현도 기자 정태이 인턴기자 = 인공지능 소프트웨어 전문기업 코난테크놀로지는 AI 시스템 결과에 영향을 미치는 주요 요소를 사람이 이해할 수 있게 설명해주는 기술로 설명가능 인공지능(Explainable AI,XAI)을 자사의 비전(Vision)과 대규모언어모델(LLM) 사업에 접목한다고 9일 밝혔다.

현재 코난테크놀로지는 KAIST 설명가능 인공지능연구센터와 정부 기관이 추진하는 '플러그앤플레이 방식 XAI 기술 개발 및 검증' 과제에 참여 중이다. 이 과제는 다양한 AI 모델에 별도 재학습 없이 설명 기능을 추가할 수 있는 구조를 개발하는 것을 목표로 한다.

연구는 KAIST 설명가능 인공지능연구센터(센터장 최재식 교수) 총괄 하에 2022년~2026년까지 5년간 진행되며 AI 모델의 의사결정 과정 전반을 사용자에게 설명할 수 있는 기술 기반을 마련하는 데 집중한다.

코난테크놀로지는 대학·연구소 중심의 참여기관 가운데 유일한 기업으로 3400여 고객사를 바탕으로 연구 결과가 산업 환경에 실질적으로 활용될 수 있게 기술 이전·적용 전략을 추진하고 있다.

올해 코난테크놀로지는 국방 분야에 XAI 원천기술 고도화와 군(軍) 도메인 맞춤형 적용 연구에 집중했다. 내년부터는 사업 영역을 LLM까지 확대할 예정이다. 코난테크놀로지는 현재 진행 중인 '대형언어모델 내부의 환각 현상 원인 규명 및 제거 기술' 연구를 활용해 LLM의 안전성과 신뢰성 강화할 예정이다.

이 기술은 공공, 발전, 의료, 제조, 금융, 법률 등 각 도메인의 고위험 분야에서 신뢰 기반 AI 서비스를 제공하기 위한 핵심 기반 기술로 자리잡는 것이 목표다.

강현수 코난테크놀로지 인공지능연구소 이사는 "앞으로도 KAIST 설명가능 인공지능연구센터와의 유기적인 협력을 바탕으로 설명가능성을 높이는 AI의 기술적 토대 마련과 상용화에 주력하겠다"고 말했다. 

taeyi427@newspim.com