[서울=뉴스핌] 김기락 기자 = 1990년대 자동차 운전면허시험장 앞에는 늘 비슷한 풍경이 있었다. 지도책자를 파는 사람들, 그리고 하나쯤은 꼭 사서 차에 넣어두던 초보 운전자들. 낯선 길을 대비하는 일종의 '기본 장비'였다. 길이 막히면 책자를 펼쳐 직접 확인하는 과정이 자연스러웠고, 그 자체가 운전의 일부였다.

내비게이션이 등장하면서 이 풍경은 빠르게 사라졌다. 지도책자는 더 이상 필요 없는 물건이 됐다. 길을 찾는 방식도 완전히 바뀌었다. 이제는 목적지만 입력하면 된다. 경로는 자동으로 설정되고, 방향은 실시간으로 안내된다. 우리는 더 이상 길을 '확인'하지 않고, '따르는' 방식에 익숙해졌다.

지금 우리는 인공지능(AI)으로 통해 비슷한 변화를 다시 통과하고 있다. AI는 더 이상 선택이 아니다. 이미 업무의 전제가 됐다. 자료 수집과 요약, 초안 작성은 기본이고, 일정 수준의 판단까지 보조한다. 인간과 AI는 경쟁 관계라기보다, 하나의 시스템 안에서 함께 작동하는 관계에 가깝다.

문제는 그 다음이다. 어떤 방식으로 공존할 것인가. AI를 제대로 활용하면 시간과 비용을 크게 줄일 수 있다. 이 점에서 AI는 '약'이다. 그러나 약은 사용 방식에 따라 독이 될 수도 있다.

내비게이션이 그랬다. 길 찾기는 쉬워졌지만, 스스로 판단하는 능력은 점점 약해졌다. 기계를 그대로 따르다 예상치 못한 상황에 대응하지 못하는 경우도 적지 않다.

수년 전 기자는 내비게이션만 믿고 이동하다가 막다른 길에 도착한 적이 있었다. 그런가 하면, 일부 내비게이션은 목적지가 육지 끝인데도, 바다를 가리키는 비현실적인 오류를 일으키기도 했다.(배타고 가라는 것인지?) 편의가 커진 만큼, '확인하는 과정'이 사라진 대가였을지 모른다.

이런 점에서 보면 AI는 내비게이션과 비슷한 구조를 가진다. 결과는 매끄럽고 논리는 그럴듯하지만, 내용의 정확성까지 보장되지는 않는다. 특히 법률·부동산·행정처럼 사실관계와 해석이 중요한 영역에서는 작은 오류 하나가 전체 판단을 흔들 수 있다. 더 문제는 완성도가 높을수록 이상하게 의심이 줄어든다는 점이다.

더 큰 위험은 '과잉 의존'이다. AI를 참고가 아니라 기준으로 삼는 순간, 사고 과정은 빠르게 축소된다. 질문하고, 의심하고, 교차 확인하는 기본 절차가 생략되면 결과의 신뢰도도 함께 무너지게 된다. 효율과 맞바꾼 것은 판단력이기 때문이다.

그렇다고 AI를 배제할 수는 없다. 이미 일과 생활의 구조 안에 깊숙이 들어와 있다. 결국 필요한 것은 배제도, 맹신도 아닌 '설정된 거리'다. 기준은 사람이 쥐고, AI는 속도를 담당하는 구조다. 판단은 인간이 하고, AI는 그 판단을 보조하는 도구로 머무를 때 균형은 유지될 것으로 보인다.

지도책자를 펼쳐 길을 확인하던 시절, 사람들은 번거로움을 감수해야 했다. 대신 그 과정에서 길의 흐름을 스스로 파악하고, 예상치 못한 상황에도 대응할 수 있는 감각을 유지할 수 있었다. 어디에서 방향을 틀어야 하는지, 길이 막히면 어떻게 우회할지 판단하는 힘이 자연스럽게 쌓였기 때문이다.

AI 시대도 다르지 않다. 확인의 과정을 생략하는 순간, 편의는 곧 리스크로 전환된다. AI를 약으로 쓸지, 독으로 만들지는 사용자의 태도에 달려 있다고 해도 과언이 아니다. 그 핵심은 인간과 AI 사이의 '거리 설정'이다.

요즘 AI 거버넌스에서 '휴먼 인 더 루프(human-in-the-loop)'가 자주 언급되고 있다고 한다. 휴먼 인 더 루프는 AI 의사결정 과정에 인간의 개입을 유지해 오류와 편향을 통제하려는 개념이다.

과거에도 논의됐지만, 생성형 AI 확산으로 오판·환각 문제가 커지면서 다시 핵심 원칙으로 부각되고 있다. 기계가 내놓은 답을 마지막에 확인하고 책임지는 존재는 여전히 인간이기 때문에... 

peoplekim@newspim.com