[서울=뉴스핌] 조재완 기자 = 이제 인공지능(AI)이 우리 일상을 얼마나 빠르게 구석구석 파고드는지 두 말 하자면 입이 아플 정도다. 인류를 구원할 손길일까 우리 목을 죄는 자충수일까.

파이낸셜타임스(FT) 심층분석 보도에 따르면 ‘인류는 적어도 아직까진 폐기처분 되지 않았다’. 

이미 도래한 ‘AI 시대’를 바라보는 기대와 우려가 공존하는 가운데, 기계와 인간이 협력해 살아가기 위해선 더욱 섬세한 설계가 요구된다고 FT가 9일(현지시간) 보도했다.

일단 AI로 극단적 결과가 도래하진 않는다는 것이 전문가들 중론이다. 결국 우리는 미래에도 여전히 스마트 시스템 속에서 일하며 살아갈 것이다. 우리 일거리를 완전히 앗아갈 정도로 기술이 완벽하지 않거나, 기계 손에 맡기기에 중대한 문제에선 인간이 판단하고 결정하는 주체로 남을 것이란 시선이 지배적이다. 

메사추세츠 공과대학(MIT) 교수이자 ‘우리들의 로봇, 우리 자신’ 저자인 데이비드 민델은 인간과 기계의 복합적인 의사결정이 홀로 일하는 것보다 나은 결과를 만들어낸다고 설명한 바 있다.

다만 문제는 있다. 인간과 준지능형(semi-intelligent) 시스템 이 함께 작동하려는 모든 일이 항상 좋은 결과로 이어지는 건 아니기 때문이다. 

이를 실증한 비극적인 사건이 올해 3월 미국 애리조나주(州) 템피에서 있었다. 차량호출업체 우버(Uber)가 시범운행 중이던 자율주행차에 치어 보행자가 사망하는 사고가 발생했다. 비상시를 대비한 백업 운전자가 있었으나, 경찰 조사 결과 사고 당시 스마트폰으로 TV 프로그램을 시청하고 있었던 것으로 밝혀졌다.

우버가 내년에 확대 적용할 ‘레벨(Level) 3’ 시스템은 대체로 자율주행하되 차량이 인지하지 못하는 상황이나 어려움에 봉착했을 때 운전자가 수동으로 운전할 수 있게끔 한 체계다. 

이에 전문가들은 결국 완전 자율주행이나 돌발 상황만 인간에게 ‘비현실적으로’ 맡기는 셈이라고 지적한다. 자율주행 기술 스타트업인 나우토(Nauto)의 스테판 헥 최고경영자(CEO)는 “하루에 고작 1분이라도 당신 손길이 필요하다면 그것은 제대로 작동하는 것이 아니다. 이도 저도 아니다”라고 꼬집었다.

우버의 사례는 무인 자동차를 훨씬 넘어서는 문제에선 AI 적용이 얼마나 더 어려울지 짐작케 한다. 신중한 설계가 이뤄지지 않는다면 지능형 시스템은 이 기술에 대한 반발만 불러 일으킬 수 있다.

인지 심리학자인 로저 생크는 오늘날 기계 학습 시스템이 실제 얼마나 제한적인지 사람들이 이해한다면, AI에 거는 과도한 기대는 빠르게 사그라들 수 있다고 설명했다. 이렇게 될 경우 제2의 ‘AI 겨울(AI Winter)’을 맞을 가능성도 있다는 설명이다. 과거 1980년대 후반 기술적 한계로 AI 개발에 성과가 별반 없자, 이에 대한 기대감이 줄어들며 AI 분야 전체의 후퇴로 이어진 바 있다. 

이를 피하려면 새로운 자동 시스템을 바라보는 현실적인 기대감이 조성돼야 할 뿐만 아니라, 우리 삶과 맞물려 돌아갈 세심한 기술 설계가 이뤄져야 한다. 그러나 기술 자체가 심각한 장벽을 제시하는 측면은 있다.

일라 누바크쉬 카네기 멜론 대학교 로봇공학 교수는 “AI가 작동하고 실패하는 방식 모두 우리에겐 낯설다”며 “AI는 우리가 친근하다고 느끼게 할 만한 방식으로 작동하고 있나. 아니면 마치 외계 물질을 다룬다고 느끼게 하냐”고 반문했다.

반무인(Semi-driverless) 주행차량은 인간과 기계과 긴밀히 협업하는 자동 시스템에 가장 가까운 극명한 사례다. 그러나 AI 기술이 진보해감에 따라 이 같은 하이브리드 시스템은 무수히 많은 상황 절절 매고 있다.

최근 가장 급격히 발전하고 있는 AI 형태 중 하나인 ‘머신 러닝(기계 학습)’은 패턴 인식의 진보적 형태다. 기계 학습은 사진 이미지를 식별하거나 음성을 인식하는 형태 등으로 이미 사람보다 나은 업무 역량을 갖췄다는 사실을 이미 증명했다.

그러나 이 기술 역시 학습된 특정 데이터를 기반으로 판단을 내려야하는 상황에선 한계를 드러낸다. 실제 우리는 많은 상황에서 과거 경험해보지 못한 상황들에 결정을 내려야 하곤 한다.

문제는 시스템에 있다. 시스템에 입력된 데이터와 상황을 일치하는 능력은 있어도 이에 대한 중요성은 인지하지 못하는 데 문제가 있는 것이다. AI에 특화된 IT 서비스업체 인포시스의 비샬 시카 CEO는 “AI는 강력하지만 실제 세계에 대한 감각은 없다”고 말했다.

◆ 이미 AI 시대…‘일상 깊숙이 스며든’ 기계와 인간의 협력법

인간과 기계가 협업하는 새로운 형태는 크게 세 가지 방식에서 정착해가고 있다.

첫 번째는 로봇이 앞단에 서고 사람이 이를 지원하는 그림이다. 기계가 능력치의 한계에 도달했을 때 인간은 백업 역할을 한다. 이런 프로세스는 많은 사업장에 적용돼 있는데 대표적인 곳이 자동화 콜센다. 콜센터에선 전화를 건 고객의 문의를 처리하기 위한 언어이해시스템이 활용되며, 기술이 대처할 수 없을 떄만 교환원이 응대한다.

앞서 언급된 우버의 보행자 충돌 사고는 무엇이 잘못될 수 있는지 보여주는 극단적인 사례였다. 스탠포드 대학 연구에 따르면 운전자가 상황을 인지해 수동으로 컨트롤 할 때까지 걸리는 시간은 최소 6초다. 설사 시간적 여유가 충분한 상황이 발생하더라도 인간은 얼마든지 기계와 다른 판단을 내릴 수 있다. 결국 돌발 상황에서 자동 시스템이 인간에게 주행권을 원활하게 이양한다는 건 현실성이 떨어질 수 밖에 없다.

업계는 사람과 기계 간 상황에 대한 의미를 공유할 수 있는 기술 개발에 매진하고 있으나 아직까지 뚜렷한 성과는 없다.

사람과 기계의 두 번째 협업 방식은 민감한 업무는 기계가 인간에 전적으로 맡기도록 설계되는 형태다. 설사 자동화 시스템이 모든 준비작업을 마쳐 홀로 완벽히 수행할 수 있는 상황이더라도 인간에 따르는 것이다.

군 부대 드론이 이에 해당된다. 드론이 제아무리 목표물에 대한 발사 준비를 마쳐도 수천킬로미터 떨어져 있는 '인간 파일럿'의 지시를 기다려야 한다. 위험 인물을 가려내기 위해 출입국 사무소에서 활용하는 얼굴 인식 시스템 역시 같은 경우다. 스테판 헥 나우토 CEO는 두 사례 모두 AI에 통제권을 넘겨주지 않으면서도 우리 업무에 효과적으로 쓸 수 있는지 보여주는 사례라고 설명했다.

다만 드론과 같은 반자동 무기는 얼마든지 완전 자동 시스템으로 바뀔 수 있다는 우려가 있다. 반자동에서 자동 장치로 바뀌는 걸 막을 특별한 기술 장벽이 없다는 점에서 현 절차와 안전장치는 얼마든지 신속히 바뀔 수 있다.

스튜어트 러셀 UC버클리 AI 교수는 국가 비상사태에서 드론 조종사 한 명쯤 외하는 건 아주 쉽고 간단한 일이라고 설명한다. 드론이 독단적으로 결정을 내려 사람을 사살할 수 있는 기술은 갖춰져있다는 얘기다. 그는 "드론 기술이 인간의 통제 하에 방어적으로만 쓰인다고 말할 수 없다. 이는 사실이 아니다"라고 지적했다.

마지막 협업 형태는 인간을 제어루프 중심에 두는 ‘휴먼 인더 루프(human in the loop)’ 시스템이다. AI가 혼자서 업무를 처리할 수는 없으나 인간의 의사결정을 보조하는 방식이다.

엄청난 양의 데이터를 고속으로 처리해 사용자에게 맞춤 정보를 추천하거나, 사람들에게 다음 처리단계를 지시하는 등의 알고리즘은 우리 모든 생활에 스며들고 있다.

이 알고리즘은 학습된 데이터 상에서만 유용하며, 새로운 상황을 다루는 데는 취약하다. 사람들은 종종 알고리즘 자체에 대한 신뢰를 넘어 결과값 자체를 믿어버리는 오류를 범하기도 한다.

섕크 인지 심리학자는 야구에서 이런 알고리즘의 역할을 언급했다. 각 타자들의 강점과 약점을 AI로 분석한 데이터는 전통적인 관점에선 의아해 보이는 출전 명단을 만들어냈다. 그는 "컴퓨터가 도운 결정이 순전히 인간 분석에 근거한 결정보다 나쁠 수도 있다"고 설명했다.

행여 버그라도 생기면 황당한 해프닝도 벌어진다. 샌프린스시코에선 우버 운전자들이 사용하는 어플리케이션(앱)에 버그가 생기면서 공항 여객 터미널로 가야 할 운전자들이 화물 적재소로 가버린 사건이 있었다.

IT서적 전문 출판사인 오라일리 미디어의 팀 오라일리 CEO는 “사람들은 때로 맹목적으로 기계를 믿어버리기도 하지만, 어떨 땐 ‘잠깐, 이상한데?’라며 의아해하기도 한다. (AI도) 다른 많은 기술들과 다를 바 없다. 사람들은 적응할 것”이라고 말했다.

◆ 비전문가는 인지하기 힘든 AI 결함…‘치명적인 사고‘ 우려

물론 이런 사건들은 기계 결함으로 발생하는 피해가 거의 없는 ‘무해한 수준’ 일 수 있다. 그러나 판돈이 커지면 얘기는 다르다.

IBM은 의료 진단을 AI 슈퍼컴퓨터 왓슨(Watson)의 주요 기능 중 하나로 목표하고 있다. 왓슨은 TV 퀴즈쇼에서 우성할 목적으로 처음 만들어졌으나, 이후 보다 보편적인 '인지' 시스템 기능을 할 수 있도록 보완됐다.

이런 인지 시스템은 최종 결정은 전문가가 하도록 설계됐다. IBM은 최종 결정권은 인간이 항상 쥐고 있을 것이라고 주장하나, 우리는 왓슨과 같은 컴퓨터에 '슈퍼컴퓨터'란 이름을 붙여줬다. 실제 왓슨이 내린 의료 진단에 의구심을 품고, AI의 권고를 무시하거나 왓슨보다 더 많은 데이터를 분석할 의사가 얼마나 될 지는 의문이다.

논란에도 불구하고 기계 학습에 기반한 최신형 AI는 더 널리 활용될 전망이며, 이에 대한 결과를 예측하는 건 더 어려워질 것으로 보인다. 이미지 인식 등과 같은 일부 분야에서 AI가 거둔 성과로 이런 시스템에 대한 기대는 계속해서 높아지고 있다. 개발자들은 대대적인 선전을 마다하지 않는다.

로저 섕크는 “통제불가능한 마케팅으로 나아가고 있다”고 우려했다. 그는 특히 IBM을 언급하며, IBM이 왓슨을 과대포장하고 있다고 주장했다. IMB사의 왓슨 홍보는 AI업계에서도 숱한 비판을 받고 있다.

다리오 길 IBM 최고운영책임자(COO)는 8년 전 왓슨이 개발된 당시 AI 분야에서 중추적인 역할을 한 기술기업은 없었다고 주장하며, 왓슨을 중심으로 시작된 대대적인 AI 연구개발을 높이 평가했다. 다만 그는 “보편적인 AI와 특수한 AI 간 차이는 우리도 모호하다고 여겼다”고 덧붙였다.

AI 시스템의 권고사항의 퀄리티를 평가하는 것은 다른 문제를 야기한다. 전문가가 아닌 이상 일반인들은 그저 ‘기계적으로' 작동할 뿐인 기계들이 가져올 결과를 예측하는 것을 꺼릴 여지가 크다.

새로운 딜레마도 아니다. 30여년 전 방사선 치료기 ‘테락(Therac)-25’은 소프트웨어 결함으로 과도한 치료를 받은 환자들이 사망한 사례가 있었다. 기술자들은 기계의 결함을 확인할 방법이 없었고, 그 결과 테락-25 치료는 한동안 계속됐다고 누르바크쉬 교수는 설명했다.

가장 진보된 기계학습 시스템에 활용되는 ‘신경망(neural networks)’ 기술에 대한 또 다른 우려도 있다. 신경망은 인간 뇌가 작동하는 방식을 따라 설계됐다. 전통적인 소프트웨어 프로그램에 적용된 논리 회로와 달리, 이 AI 컴퓨터가 낸 특정한 결과값은 근거를 역추적할 방법이 없다. 신경망이 넘어야 할 가장 큰 과제다.

누르바크쉬 교수는 이 점이 “AI의 특이한 아이러니"라며 "최고의 시스템이 오늘날 가장 규명하기 힘든 것 중 하나가 됐다”고 말했다.

다만 일부 전문가들은 이에 관한 진전이 있으며, 머지 않아 기계학습 시스템이 특정 결과를 내리게 된 경로를 찾을 수 있게 될 것이라고 낙관했다. 스테판 헥은 “불가능하지 않다. 안을 들여다보고 시스템이 어떤 신호를 받고 있는지 볼 수 있을 것”이라고 말했다.

AI계 종사자 다수가 그렇듯 헥은 인간과 기계가 함께 일하는 것이 양쪽 어느 쪽이든 혼자 일했던 때보다 훨씬 많은 것을 이룰 수 있다는 낙관론을 피력했다. 그러나 장밋빛 미래를 꿈꾸기 전에 해결해야 할 몇 가지 심각한 설계 과제가 남아 있다.

chojw@newspim.com