"당신이 세상을 바라보는 시선을 사랑해요. 당신의 옆에서 당신의 시선으로 세상을 볼 수 있어 행복해요."

누구라도 사랑에 빠져들 가슴 절절한 다정함.  2013년 개봉작 영화 Her는 AI 운영체제와 사랑에 빠진 외로운 남자의 이야기다. 아직 이혼서류에 사인하지 못한 채 우중충한 삶을 살고 있는 중년남 테오도르의 직업은 편지 대필 서비스. 종일 따뜻하고 낭만적인 편지를 쓰고 있지만 정작 자신은 뭘 해도 채워지지 않는 공허한 일상을 보낸다. 어느 날 '당신을 알아주고 이해 해 줄 인격체'라는 광고에 솔깃해 구입한 AI운영체제 사만다. 테오도르는 자기보다 자신을 더 잘 이해하고 듣고 싶은 말을 속삭여주는 사만다와 대화 만으로도 사랑에 빠진다.

곧 영화 같은 현실이 펼쳐질 듯 하다. 구글의 AI 연구소 딥마인드가 자사의 생성형 AI 챗봇 '바드'(Bard)에 추천서비스를 결합한  '개인 코치'를 개발 중이다.  AI 개인코치는 사용자 데이터 기반으로 실생활에 필요한 조언과 아이디어를 제시하고 학습에 관한 팁을 제공하는가 하면 소비 패턴, 식사 습관, 운동 계획까지 직접 짜주는 등 21가지 이상의 개인 및 전문 작업을 수행할 방침이라고 한다.

심지어 SNS나 인터넷 커뮤니티가 공론장이 되었던 '결혼식 축의금 기준'이나 '사정상 친구 결혼식에 참석하지 못할 때 관계를 해치지 않는 양해의 말' 같은 일상의 크고 작은 고민거리까지 AI 개인코치가 답해주겠다는 것이다.

하민회 이미지21 대표.

그동안 개인 맞춤형 조언 서비스나 의료, 재정, 법률 자문 등에 신중했던 구글이 180도 입장을  바꿔 공격적인 개발에 돌입했다는 건 시장선점에 대한 위기의식이 기술 윤리를 제쳐 둘 만큼 심각하다는 사실 뿐 아니라 챗GPT 이후 개인 맞춤형 서비스를 토대로 범용AI(AGI)개발에 나서겠다는 욕심을 보여준다. 

AI 개인 맞춤형 조언 서비스 (이하 AI코치)는 빅 테크 입장에서는 포기할 수 없는 엄청난 시장이겠지만 사람에겐 위험천만이다. AI에게 지각능력이 있다고 착각하거나 의인화 환각에서 오는 기능적 의존성, 정서적 의존성이 심각하게 우려되기 때문이다.

현대인은 외로움을 느끼기 쉬운 환경 속에 있다. 지나치게 바쁘고 빠른 일상은 어제와 다름 없는 오늘을 만들고 성장을 멈춘 자기 모습에 외롭다.  24시간 연결되어 있지만 속내를 털어놓을 수 없는 관계의 가벼움에 외롭고 원할 때 혼자 있지 못해 외롭다. 

외로움은 비생물체에 쉽게 인격을 부여하는 의인화(anthropomorphism) 기질을 강화한다. '마주 대하여 이야기를 주고 받음'이라는 대화의 사전적 의미를 그대로 실현한 챗봇은 내가 던진 질문에 적절한 답을 내놓으며 우리 의식체계에 강력한 유대감을 형성한다.

사용자 데이터를 기반으로 정교하게 설계된 챗봇 AI코치는 더 이상 인간을 돕는 도구나 수단이 아닌 파트너로 간주된다. AI코치는 사용자 경험이 늘수록 그 사람의 사고와 행동을 완벽하게 '미러링' 해내기 때문에 마치 영화 Her 의 사만다처럼 '나를 잘 알고 충분히 이해해주는 다정하고 친절한 인격체'처럼 느껴진다.

AI 코치를 통해 문제의 해법을 모색하는 습관은 우리의 주체성도 약화시킨다. 골치 아프게 고민하지 않아도 되고 어떻게 해야 훌륭한 결과를 낼 수 있을지 고심하지 않아도 된다. AI가 제공한 지침과 계획을 따르면 그런대로 쓸만한 결과를 기대할 수 있으니 꽤나 편하다.

검색어 하나 넣지 않아도 최근  관심사에 관한 영상을 줄줄이 추천하는 유튜브처럼 사용자 데이터를 꿰어찬  AI코치는 어느 순간 별도의 요청이 없어도  머릿 속 고민거리까지 답을 도출해 제공할 것이다. 일상의 주도성을 잃은 사용자는 사고의 필요성을 인식하지 못한다. 어떤 상황에서든 인간이 제일 중요한 사고자이자 행동자라는 인식에 균열을 일으키는 새로운 주체로 AI코치가 등장하는 셈이다.

AI에 대한 정서적 의존은 인간끼리의 대화를 단절시키고 세상을 기호에 맞게 협소화 시킨다. 기후 위기론에 빠져있던 벨기에의 한 남성은 가족과 멀어진 채 챗봇 대화만 6주간 이어가다 스스로 목숨을 끊었다. 그의 PC에서는 아내보다 내가 더 사랑한다거나 지구를 구하려면 목숨을 끊어야 한다는 챗봇의 대화가 발견되었다.

"우리는 지금 머리를 쓰지 않고(mindlessly) 글을 생성할 수 있는 기계를 갖고 있다. 그런데 우리는 그 기계들이 마음을 갖고 있다고 상상하는 걸 멈추는 방법을 배우지 못했다." 워싱턴대학 에밀리 벤더 교수의 지적처럼 어쩌면 AI 기술 자체 보다 AI 기술에 대한 지나친 의인화가 더 큰 문제일 수도 있다.

인간의 능력을 확장하기 위해 만들어졌다고 하지만 생성형AI는 인간을 재설정하고 있다. 더 이상 한낱 프로그램이 아니다. 조력자이자 상담자, 교사의 역할을 하기도 하고 일자리를 위협하는 존재가 되기도 한다. 손에 달린 외뇌인 스마트 폰처럼 AI코치 없이 아무것도 결정하지 못하는 날이 올 수도 있다.

더 늦기 전에 우리는 AI 기술보다 그 기술로 인해 영향을 받는 우리 자신과 사회에 주목해야 한다.  새로운 AI아이템이 등장하면 습관적으로 짚어봐야 한다. 꼭 필요한 AI 기술 혹은 AI 아이템인가. 부작용이나 악용의 여지는 없는가, 사회적으로 어떤 문제가 야기될 수 있는가, 예방 차원의 규제는 준비되어 있는가. 습관적인 확인만으로도 잠재적 위험을 줄 일 수 있다.

인간이 기계를 만들고, 기계가 다시 인간을 만든다. 우리는 인간과 기계의 상호피드백 시대를 살고있다. 넋 놓고 편의성만 추구하다가는 부지불식간에 사고하는 능력에 주체성까지 잃어버릴 수 있다. 

AI를 단지 도구로 혹은 조력자로 쓸 것인지 아니면 주체적 의지를 가진 하나의 존재로 인간의 옆 자리를 내어줄 것인지 진지한 사회적 고민이 시작되어야 할 시점이다.

어느 덧 일상에 스며들어 나보다 나를 더  잘 알게 된 무섭도록 다정한 AI, 대체 어떤 관계로 설정해야 할까?

◇하민회 이미지21대표(코가로보틱스 마케팅자문) =△경영 컨설턴트, AI전략전문가△ ㈜이미지21대표, 코가로보틱스 마케팅자문△경영학 박사 (HRD)△서울과학종합대학원 인공지능전략 석사△핀란드 ALTO 대학 MBA △상명대예술경영대학원 비주얼 저널리즘 석사 △한국외대 및 교육대학원 졸업 △경제지 및 전문지 칼럼니스트 △SERI CEO 이미지리더십 패널 △KBS, TBS, OBS, CBS 등 방송 패널 △YouTube <책사이> 진행 중 △저서: 쏘셜력 날개를 달다 (2016), 위미니지먼트로 경쟁하라(2008), 이미지리더십(2005), 포토에세이 바라나시 (2007) 등