전체기사 최신뉴스 GAM 라씨로
KYD 디데이
글로벌 글로벌경제

속보

더보기

“AI, ‘약’에 쓰려면 인류와 공생가능한 섬세한 설계 이뤄져야” - FT

기사입력 : 2018년10월12일 07:30

최종수정 : 2018년10월12일 07:30

[서울=뉴스핌] 조재완 기자 = 이제 인공지능(AI)이 우리 일상을 얼마나 빠르게 구석구석 파고드는지 두 말 하자면 입이 아플 정도다. 인류를 구원할 손길일까 우리 목을 죄는 자충수일까.

파이낸셜타임스(FT) 심층분석 보도에 따르면 ‘인류는 적어도 아직까진 폐기처분 되지 않았다’. 

이미 도래한 ‘AI 시대’를 바라보는 기대와 우려가 공존하는 가운데, 기계와 인간이 협력해 살아가기 위해선 더욱 섬세한 설계가 요구된다고 FT가 9일(현지시간) 보도했다.

일단 AI로 극단적 결과가 도래하진 않는다는 것이 전문가들 중론이다. 결국 우리는 미래에도 여전히 스마트 시스템 속에서 일하며 살아갈 것이다. 우리 일거리를 완전히 앗아갈 정도로 기술이 완벽하지 않거나, 기계 손에 맡기기에 중대한 문제에선 인간이 판단하고 결정하는 주체로 남을 것이란 시선이 지배적이다. 

메사추세츠 공과대학(MIT) 교수이자 ‘우리들의 로봇, 우리 자신’ 저자인 데이비드 민델은 인간과 기계의 복합적인 의사결정이 홀로 일하는 것보다 나은 결과를 만들어낸다고 설명한 바 있다.

다만 문제는 있다. 인간과 준지능형(semi-intelligent) 시스템 이 함께 작동하려는 모든 일이 항상 좋은 결과로 이어지는 건 아니기 때문이다. 

올해 3월 미국 애리조나주 템피에서 자전거를 타던 여성이 우범의 자율주행 시범차량과 충돌해 사망하는 사고가 발생했다.[사진=로이터 뉴스핌]

이를 실증한 비극적인 사건이 올해 3월 미국 애리조나주(州) 템피에서 있었다. 차량호출업체 우버(Uber)가 시범운행 중이던 자율주행차에 치어 보행자가 사망하는 사고가 발생했다. 비상시를 대비한 백업 운전자가 있었으나, 경찰 조사 결과 사고 당시 스마트폰으로 TV 프로그램을 시청하고 있었던 것으로 밝혀졌다.

우버가 내년에 확대 적용할 ‘레벨(Level) 3’ 시스템은 대체로 자율주행하되 차량이 인지하지 못하는 상황이나 어려움에 봉착했을 때 운전자가 수동으로 운전할 수 있게끔 한 체계다. 

이에 전문가들은 결국 완전 자율주행이나 돌발 상황만 인간에게 ‘비현실적으로’ 맡기는 셈이라고 지적한다. 자율주행 기술 스타트업인 나우토(Nauto)의 스테판 헥 최고경영자(CEO)는 “하루에 고작 1분이라도 당신 손길이 필요하다면 그것은 제대로 작동하는 것이 아니다. 이도 저도 아니다”라고 꼬집었다.

우버의 사례는 무인 자동차를 훨씬 넘어서는 문제에선 AI 적용이 얼마나 더 어려울지 짐작케 한다. 신중한 설계가 이뤄지지 않는다면 지능형 시스템은 이 기술에 대한 반발만 불러 일으킬 수 있다.

인지 심리학자인 로저 생크는 오늘날 기계 학습 시스템이 실제 얼마나 제한적인지 사람들이 이해한다면, AI에 거는 과도한 기대는 빠르게 사그라들 수 있다고 설명했다. 이렇게 될 경우 제2의 ‘AI 겨울(AI Winter)’을 맞을 가능성도 있다는 설명이다. 과거 1980년대 후반 기술적 한계로 AI 개발에 성과가 별반 없자, 이에 대한 기대감이 줄어들며 AI 분야 전체의 후퇴로 이어진 바 있다. 

이를 피하려면 새로운 자동 시스템을 바라보는 현실적인 기대감이 조성돼야 할 뿐만 아니라, 우리 삶과 맞물려 돌아갈 세심한 기술 설계가 이뤄져야 한다. 그러나 기술 자체가 심각한 장벽을 제시하는 측면은 있다.

일라 누바크쉬 카네기 멜론 대학교 로봇공학 교수는 “AI가 작동하고 실패하는 방식 모두 우리에겐 낯설다”며 “AI는 우리가 친근하다고 느끼게 할 만한 방식으로 작동하고 있나. 아니면 마치 외계 물질을 다룬다고 느끼게 하냐”고 반문했다.

반무인(Semi-driverless) 주행차량은 인간과 기계과 긴밀히 협업하는 자동 시스템에 가장 가까운 극명한 사례다. 그러나 AI 기술이 진보해감에 따라 이 같은 하이브리드 시스템은 무수히 많은 상황 절절 매고 있다.

최근 가장 급격히 발전하고 있는 AI 형태 중 하나인 ‘머신 러닝(기계 학습)’은 패턴 인식의 진보적 형태다. 기계 학습은 사진 이미지를 식별하거나 음성을 인식하는 형태 등으로 이미 사람보다 나은 업무 역량을 갖췄다는 사실을 이미 증명했다.

그러나 이 기술 역시 학습된 특정 데이터를 기반으로 판단을 내려야하는 상황에선 한계를 드러낸다. 실제 우리는 많은 상황에서 과거 경험해보지 못한 상황들에 결정을 내려야 하곤 한다.

문제는 시스템에 있다. 시스템에 입력된 데이터와 상황을 일치하는 능력은 있어도 이에 대한 중요성은 인지하지 못하는 데 문제가 있는 것이다. AI에 특화된 IT 서비스업체 인포시스의 비샬 시카 CEO는 “AI는 강력하지만 실제 세계에 대한 감각은 없다”고 말했다.

◆ 이미 AI 시대…‘일상 깊숙이 스며든’ 기계와 인간의 협력법

인간과 기계가 협업하는 새로운 형태는 크게 세 가지 방식에서 정착해가고 있다.

첫 번째는 로봇이 앞단에 서고 사람이 이를 지원하는 그림이다. 기계가 능력치의 한계에 도달했을 때 인간은 백업 역할을 한다. 이런 프로세스는 많은 사업장에 적용돼 있는데 대표적인 곳이 자동화 콜센다. 콜센터에선 전화를 건 고객의 문의를 처리하기 위한 언어이해시스템이 활용되며, 기술이 대처할 수 없을 떄만 교환원이 응대한다.

앞서 언급된 우버의 보행자 충돌 사고는 무엇이 잘못될 수 있는지 보여주는 극단적인 사례였다. 스탠포드 대학 연구에 따르면 운전자가 상황을 인지해 수동으로 컨트롤 할 때까지 걸리는 시간은 최소 6초다. 설사 시간적 여유가 충분한 상황이 발생하더라도 인간은 얼마든지 기계와 다른 판단을 내릴 수 있다. 결국 돌발 상황에서 자동 시스템이 인간에게 주행권을 원활하게 이양한다는 건 현실성이 떨어질 수 밖에 없다.

업계는 사람과 기계 간 상황에 대한 의미를 공유할 수 있는 기술 개발에 매진하고 있으나 아직까지 뚜렷한 성과는 없다.

플로리다주에서 테스트 조종 중인 드론 [사진=로이터 뉴스핌]

사람과 기계의 두 번째 협업 방식은 민감한 업무는 기계가 인간에 전적으로 맡기도록 설계되는 형태다. 설사 자동화 시스템이 모든 준비작업을 마쳐 홀로 완벽히 수행할 수 있는 상황이더라도 인간에 따르는 것이다.

군 부대 드론이 이에 해당된다. 드론이 제아무리 목표물에 대한 발사 준비를 마쳐도 수천킬로미터 떨어져 있는 '인간 파일럿'의 지시를 기다려야 한다. 위험 인물을 가려내기 위해 출입국 사무소에서 활용하는 얼굴 인식 시스템 역시 같은 경우다. 스테판 헥 나우토 CEO는 두 사례 모두 AI에 통제권을 넘겨주지 않으면서도 우리 업무에 효과적으로 쓸 수 있는지 보여주는 사례라고 설명했다.

다만 드론과 같은 반자동 무기는 얼마든지 완전 자동 시스템으로 바뀔 수 있다는 우려가 있다. 반자동에서 자동 장치로 바뀌는 걸 막을 특별한 기술 장벽이 없다는 점에서 현 절차와 안전장치는 얼마든지 신속히 바뀔 수 있다.

스튜어트 러셀 UC버클리 AI 교수는 국가 비상사태에서 드론 조종사 한 명쯤 외하는 건 아주 쉽고 간단한 일이라고 설명한다. 드론이 독단적으로 결정을 내려 사람을 사살할 수 있는 기술은 갖춰져있다는 얘기다. 그는 "드론 기술이 인간의 통제 하에 방어적으로만 쓰인다고 말할 수 없다. 이는 사실이 아니다"라고 지적했다.

마지막 협업 형태는 인간을 제어루프 중심에 두는 ‘휴먼 인더 루프(human in the loop)’ 시스템이다. AI가 혼자서 업무를 처리할 수는 없으나 인간의 의사결정을 보조하는 방식이다.

엄청난 양의 데이터를 고속으로 처리해 사용자에게 맞춤 정보를 추천하거나, 사람들에게 다음 처리단계를 지시하는 등의 알고리즘은 우리 모든 생활에 스며들고 있다.

이 알고리즘은 학습된 데이터 상에서만 유용하며, 새로운 상황을 다루는 데는 취약하다. 사람들은 종종 알고리즘 자체에 대한 신뢰를 넘어 결과값 자체를 믿어버리는 오류를 범하기도 한다.

섕크 인지 심리학자는 야구에서 이런 알고리즘의 역할을 언급했다. 각 타자들의 강점과 약점을 AI로 분석한 데이터는 전통적인 관점에선 의아해 보이는 출전 명단을 만들어냈다. 그는 "컴퓨터가 도운 결정이 순전히 인간 분석에 근거한 결정보다 나쁠 수도 있다"고 설명했다.

행여 버그라도 생기면 황당한 해프닝도 벌어진다. 샌프린스시코에선 우버 운전자들이 사용하는 어플리케이션(앱)에 버그가 생기면서 공항 여객 터미널로 가야 할 운전자들이 화물 적재소로 가버린 사건이 있었다.

IT서적 전문 출판사인 오라일리 미디어의 팀 오라일리 CEO는 “사람들은 때로 맹목적으로 기계를 믿어버리기도 하지만, 어떨 땐 ‘잠깐, 이상한데?’라며 의아해하기도 한다. (AI도) 다른 많은 기술들과 다를 바 없다. 사람들은 적응할 것”이라고 말했다.

◆ 비전문가는 인지하기 힘든 AI 결함…‘치명적인 사고‘ 우려

물론 이런 사건들은 기계 결함으로 발생하는 피해가 거의 없는 ‘무해한 수준’ 일 수 있다. 그러나 판돈이 커지면 얘기는 다르다.

IBM은 의료 진단을 AI 슈퍼컴퓨터 왓슨(Watson)의 주요 기능 중 하나로 목표하고 있다. 왓슨은 TV 퀴즈쇼에서 우성할 목적으로 처음 만들어졌으나, 이후 보다 보편적인 '인지' 시스템 기능을 할 수 있도록 보완됐다.

이런 인지 시스템은 최종 결정은 전문가가 하도록 설계됐다. IBM은 최종 결정권은 인간이 항상 쥐고 있을 것이라고 주장하나, 우리는 왓슨과 같은 컴퓨터에 '슈퍼컴퓨터'란 이름을 붙여줬다. 실제 왓슨이 내린 의료 진단에 의구심을 품고, AI의 권고를 무시하거나 왓슨보다 더 많은 데이터를 분석할 의사가 얼마나 될 지는 의문이다.

논란에도 불구하고 기계 학습에 기반한 최신형 AI는 더 널리 활용될 전망이며, 이에 대한 결과를 예측하는 건 더 어려워질 것으로 보인다. 이미지 인식 등과 같은 일부 분야에서 AI가 거둔 성과로 이런 시스템에 대한 기대는 계속해서 높아지고 있다. 개발자들은 대대적인 선전을 마다하지 않는다.

IBM 왓슨이 인지기술로 패션브랜드 마르체사 의상 수백여점을 학습해 새롭게 제작한 드레스 [사진=로이터 뉴스핌]

로저 섕크는 “통제불가능한 마케팅으로 나아가고 있다”고 우려했다. 그는 특히 IBM을 언급하며, IBM이 왓슨을 과대포장하고 있다고 주장했다. IMB사의 왓슨 홍보는 AI업계에서도 숱한 비판을 받고 있다.

다리오 길 IBM 최고운영책임자(COO)는 8년 전 왓슨이 개발된 당시 AI 분야에서 중추적인 역할을 한 기술기업은 없었다고 주장하며, 왓슨을 중심으로 시작된 대대적인 AI 연구개발을 높이 평가했다. 다만 그는 “보편적인 AI와 특수한 AI 간 차이는 우리도 모호하다고 여겼다”고 덧붙였다.

AI 시스템의 권고사항의 퀄리티를 평가하는 것은 다른 문제를 야기한다. 전문가가 아닌 이상 일반인들은 그저 ‘기계적으로' 작동할 뿐인 기계들이 가져올 결과를 예측하는 것을 꺼릴 여지가 크다.

새로운 딜레마도 아니다. 30여년 전 방사선 치료기 ‘테락(Therac)-25’은 소프트웨어 결함으로 과도한 치료를 받은 환자들이 사망한 사례가 있었다. 기술자들은 기계의 결함을 확인할 방법이 없었고, 그 결과 테락-25 치료는 한동안 계속됐다고 누르바크쉬 교수는 설명했다.

가장 진보된 기계학습 시스템에 활용되는 ‘신경망(neural networks)’ 기술에 대한 또 다른 우려도 있다. 신경망은 인간 뇌가 작동하는 방식을 따라 설계됐다. 전통적인 소프트웨어 프로그램에 적용된 논리 회로와 달리, 이 AI 컴퓨터가 낸 특정한 결과값은 근거를 역추적할 방법이 없다. 신경망이 넘어야 할 가장 큰 과제다.

누르바크쉬 교수는 이 점이 “AI의 특이한 아이러니"라며 "최고의 시스템이 오늘날 가장 규명하기 힘든 것 중 하나가 됐다”고 말했다.

다만 일부 전문가들은 이에 관한 진전이 있으며, 머지 않아 기계학습 시스템이 특정 결과를 내리게 된 경로를 찾을 수 있게 될 것이라고 낙관했다. 스테판 헥은 “불가능하지 않다. 안을 들여다보고 시스템이 어떤 신호를 받고 있는지 볼 수 있을 것”이라고 말했다.

AI계 종사자 다수가 그렇듯 헥은 인간과 기계가 함께 일하는 것이 양쪽 어느 쪽이든 혼자 일했던 때보다 훨씬 많은 것을 이룰 수 있다는 낙관론을 피력했다. 그러나 장밋빛 미래를 꿈꾸기 전에 해결해야 할 몇 가지 심각한 설계 과제가 남아 있다.

 

chojw@newspim.com

[뉴스핌 베스트 기사]

사진
서울 시내버스 파업 돌입···지하철역 연계 무료 셔틀 480회 투입 [서울=뉴스핌] 이경화 기자 = 서울지방노동위원회 조정회의에도 불구하고 서울시내버스 노사 간 임금협상이 결렬됨에 따라 서울시는 28일 오전 4시 첫차부터 즉시 비상수송대책 시행에 들어갔다. 서울시는 파업에 대비해 전날인 27일 시·구 비상수송대책본부를 중심으로 교통대책을 마련했고 이날 대체 교통수단을 즉시 투입한다고 밝혔다. [서울=뉴스핌] 정일구 기자 = 서울시가 시내버스 파업에 대비해 28일 오전 4시 첫차부터 비상수송대책 시행에 들어갔다. 서울역 버스종합환승센터 모습. 지하철은 출퇴근 시간대 1시간을 연장하고 심야 운행시간도 다음날 새벽 2시까지 1시간 연장한다. 지하철역과의 연계를 위해 25개 자치구에서는 무료 셔틀버스 총 480대를 투입해 시민 불편을 최소화한다. 지하철 혼잡시간은 오전 7~10시, 오후 6~9시로 조정돼 열차가 추가 투입되고 막차시간은 종착역 기준 익일 2:00까지 연장돼 총 202회 증회된다. 지하철 연계를 위한 무료 셔틀버스는 총 119개 노선, 480대가 빠르게 투입돼 1일 총 4959회 운행된다. 보광운수, 정평운수, 원버스 12개 노선은 정상운행된다. 또 다산콜재단, 교통정보센터 토피스, 서울시 매체, 정류소의 버스정보안내단말기 등을 통해 실시간 교통정보도 제공할 예정이다. 윤종장 서울시 도시교통실장은 "조속한 시일 내에 원만한 노사 합의를 도출하기 위해 총력을 기울일 것"이라며 "가용 가능한 모든 교통수단을 동원해 시민 불편을 최소화 하겠다"고 말했다.  kh99@newspim.com 2024-03-28 07:42
사진
이재명 47.2% vs 원희룡 43.6%···'계양을' 오차범위 내 초접전 [서울=뉴스핌] 홍석희 기자 = 4·10 총선 최대 격전지인 '명룡대전' 인천 계양을에서 이재명 더불어민주당 후보와 원희룡 국민의힘 후보가 3.6%포인트(p) 격차로 초접전을 벌이는 것으로 28일 나타났다. 종합뉴스통신사 뉴스핌 의뢰로 여론조사 전문기관 미디어리서치가 지난 25~26일 인천 계양구 을 선거구 만 18세 이상 남녀 501명에게 총선에서 어떤 후보를 지지하는지 물어본 결과 이 후보가 47.2%, 원 후보가 43.6%를 기록했다. 두 후보의 격차는 오차범위 안쪽인 3.6%p였다. 뒤이어 최창원 내일로미래로 후보 2.4%, 안정권 무소속 후보 1.7% 순이었다. '지지 후보 없음'은 4.4%, '잘 모름'은 0.8%였다. 성별로는 남성에서 이 후보가 49.6%, 원 후보가 40.6%의 지지를 받았고 여성에서는 이 후보가 44.9%, 원 후보가 46.5%로 나타났다. 연령별로 살펴보면 이 후보는 만18세~29세, 40대, 50대에서 원 후보를 앞섰다. 만18세~29세에서 이 후보는 40.1%, 원 후보는 31.2%였고 40대에선 이 후보 60.9%, 원 후보 36.5%로 나타났다. 50대에선 이 후보 54.1%, 원 후보 41.6%였다. 원 후보는 30대, 60대, 70대 이상에서 강세를 보였다. 30대에서 이 후보가 40.4%, 원 후보가 48.8%였고 60대에선 이 후보 44.7%, 원 후보 47.9%로 집계됐다. 70대 이상에선 이 후보 35.2%, 원 후보 63.5%로 격차가 벌어졌다. 권역별로는 큰 차이를 보이지 않았다. 1권역(계산 2동·계산 4동·작전서운동)과 2권역(계양 1동·계양 2동·계양 3동) 모두 이 후보가 앞섰다. 1권역에선 이 후보가 46.5%, 원 후보가 42.8%였고 2권역에선 이 후보 47.9%, 원 후보 44.3%로 나타났다. 지지 정당별로 살펴보면 민주당·조국혁신당 지지층에선 이 후보가, 국민의힘·개혁신당·새로운미래 지지층에선 원 후보가 선두였다. 민주당 지지층에선 이 후보 91%, 원 후보 4.2%였고 국민의힘 지지층에선 이 후보 3.3%, 원 후보 93.4%였다. 조국혁신당 지지층에선 이 후보 91.6%, 원 후보 2.7%였으며 개혁신당 지지층에선 이 후보 11%, 원 후보 61.8%였고 새로운미래 지지층은 이 후보 4.1%, 원 후보 60.6%로 나타났다. '지지 정당이 없다'고 답한 무당층의 경우 이 후보 21%, 원 후보 26.4%를 기록했다. '당선 가능성' 조사에선 두 후보 간 격차가 지지율 조사보다 벌어졌다. '지지 여부를 떠나, 어느 후보가 당선될 것으로 생각하느냐'고 묻자 이 후보는 53.7%, 원 후보는 38.7%를 기록해 15%p 격차를 기록했다. 이번 여론조사는 구조화된 설문지를 이용한 유무선 ARS 전화조사로 이뤄졌으며 통신사에서 제공한 무선 가상번호에서 무작위로 추출한 무선 90%와 15개 주요국번 RDD 유선 10%를 활용했다. 표본오차는 95% 신뢰수준에 ±4.4%p고 응답률은 6.2%다. 2023년 12월 말 행정안전부 주민등록 인구통계를 기준으로 성, 연령대, 지역별 가중치(셀가중)를 부여했다.  보다 자세한 내용은 중앙선거여론조사심의위원회 여론조사 결과 등록현황을 참고하면 된다. hong90@newspim.com 2024-03-28 06:00
안다쇼핑
Top으로 이동