최근 산업 분야를 막론하고 인공지능(AI)을 활용한 업무 영역이 일상화됐다. 보수적인 법조계에서도 곳곳에서 변화가 눈에 띈다. 산더미처럼 쌓인 서류에서 벗어나 자체 AI를 활용해 수사부터 조서 작성, 재판까지 다양한 분야에서 활용하고 있다. 뉴스핌은 [AI, 法을 배우다] 기획을 통해 법조계에서 AI를 어떻게 적용하고 있는지 폭넓게 짚어 보고, 법과 AI가 함께 나아갈 미래를 그려본다.

[서울=뉴스핌] 백승은 김영은 기자 = 법조계에서 생성형 인공지능(AI) 활용이 상용화되며 오류나 환각(할루시네이션)에 대한 우려도 커졌다. 법률 전문가 집단은 대응책을 분주하게 준비 중이다.  

10일 법조계에 따르면 대법원과 대검찰청, 대한변호사협회는 모두 AI 오류 방지를 위한 규칙 개정 및 가이드라인 제정에 나섰다.

최근 변호사가 AI의 도움을 받아 서면을 작성하거나 아예 서면 작성을 맡기는 경우가 늘면서 재판부가 일명 '유령 판례'를 판별하는 데 어려움을 겪고 있다.

이성엽 고려대 기술경영전문대학원 교수는 "AI로 생성한 법률 문서를 검증 없이 재판부에 제출해 판사들이 사실 여부 검증에 어려움을 겪는 경우가 늘고 있다"며 "존재하지 않은 판례나 선례를 의견서 등에 담아 제출하는 바람에 이를 검증하는 과정을 판사들이 담당해야 하는 것"이라고 했다.

실제 지난 3월 서울북부지법 민사15 단독 신정민 판사는 원고 A씨가 B회사를 상대로 제기한 청구이의 사건에서 "원고가 제시한 대법원 2001다43797, 2007다20234 판결은 모두 존재하지 않는 사건번호이고, 원고가 제시한 대법원 2015다207747 판결 역시 소멸시효 중단에 관한 내용이 아니다"라고 언급했다. A씨가 재판 변론 과정에서 AI로 작성한 허위 사건번호를 제시하자 재판부가 이를 짚어낸 것이다.

법률사무소가 AI가 만든 허위 판례를 그대로 제출한 사례도 있다. 지난 4월 울산지법에서 1심 패소 이후 소송 자료를 검토하던 피고 측이 준비 서면에 허위 판례가 인용된 정황을 발견하기도 했다. 인용된 판례번호 '대법원 2009다103436 판결'은 존재하지 않는 판례번호였고, 다른 판례는 선고일자가 실제와 다르게 기재되거나 판시 내용도 실제 판결과 일치하지 않았다. 이에 해당 사무소 측은 AI로 판례를 검색·정리하는 과정에서 재확인 절차가 누락됐음을 인정하고 의뢰인에게 사과했으며, 판례번호와 법률 조항을 별도로 대조·검증하는 절차를 마련했다고 밝혔다.

법원과 검찰을 비롯한 법률전문가 집단은 부작용을 막기 위해 대안을 찾아가고 있다. 법원은 지난 2월 가짜 판례를 확인할 수 있도록 사법정보공개포털에 '허위 사건번호 확인' 기능을 추가하고, '법관을 위한 AI 가이드북'을 발간했다. 가이드북에는 AI 환각이나 데이터 편향, 개인정보침해 및 보안 문제와 같은 위험 요소에 대한 기준과 업무 효율성 확대를 위한 프롬프트 작성의 기본 원칙 등이 담겼다.

법원행정처는 앞서 지난해 11월~올해 3월까지 'AI 활용 허위 주장·증거 제출 대응 태스크포스(TF)'를 운영해 관계법령 및 해외 판결 동향 등을 살핀 바 있다. TF 운영 등을 바탕으로 법원행정처는 법원 제출 서류에 AI 활용 사실을 표기하도록 하는 대법원 규칙 개정을 검토 중이다.

법원행정처는 뉴스핌의 취재에 "AI를 통한 허위자료 인용 등의 문제점을 개선하기 위해 규칙개정을 검토하면서 변협 의견을 청취했다"면서도 "규칙 개정은 검토 단계일 뿐 아직 확정된 것은 없다"고 설명했다.

대한변협 역시 최근 'AI 법률인공지능TF'를 발족하고 법조계 내 AI 사용에 대한 가이드라인을 조율하고 있다. 다만 현재까지 구체적인 내용은 공개된 바 없다. 윤세환 법률사무소 윤정 변호사는 "법관은 법원 내 AI 가이드라인이 고지가 됐지만 현재 변호사를 대상으로는 공식적인 가이드라인은 없다"고 언급했다.

검찰도 예외는 아니다. 대검찰청은 뉴스핌 취재에 "AI의 오류 및 환각을 방지하기 위해 형사사법정보시스템(KICS) 등에 '출처 기반 답변생성(RAG 등)'을 적용하고, 생성 결과의 상시 검토 및 지속적인 품질 개선·보정 체계를 마련해 신뢰성을 확보하고자 한다"고 밝혔다. 관련 판례·법령·수사기록 등을 먼저 검색한 뒤 이를 근거로 답을 생성하는 방식(RAG)을 채택해, 근거 없는 '유령 판례'나 허위 사실을 AI가 지어내는 위험을 원천적으로 줄이겠다는 취지다.

수사정보 유출 방지책도 마련했다. 대검은 검찰 내부 폐쇄망에 인터넷과 물리적으로 분리된 온프레미스(On-Premise) 방식으로 시스템을 구축해 수사정보 등 데이터가 외부로 나가지 않도록 원천 차단할 계획이다. 향후 AI 모델을 구축·운영하는 과정에서는 AI 활용을 진흥하면서도 내재된 위험을 규제할 수 있도록 가이드라인과 구체적인 업무 절차를 마련할 방침이라고 밝혔다.

익명을 요청한 한 부동산 전문 법인 소속 변호사는 "다수의 AI 검색 툴은 가끔 부정확한 결과를 내놓을 때가 있어 국가법령정보시스템과 다시 대조해 확인한다"며 "여러 AI 툴을 교차 검증하는 것이 일상이 됐다"고 말했다. 이어 "AI는 편리한 도구지만 최종적으로 사실관계와 법리를 확인하는 책임은 결국 변호사에게 있다"며 "앞으로 법조계 전반에 AI 활용 기준과 검증 절차를 담은 가이드라인이 마련되면 실무 혼선도 상당 부분 줄어들 것으로 기대한다"고 말했다.

100wins@newspim.com