[기고] 진화하는 챗봇을 경계해야 하는 이유

기사입력 : 2023년10월04일 09:03

최종수정 : 2023년10월05일 09:36

하민회 이미지21대표(코가로보틱스 마케팅자문)

"약은 드셨어요?" "무릎은 좀 어떠세요?"

또렷하고 친절한 음성의 챗봇이 안부를 묻는다. 첫 통화에서 어떤 일을 했는지, 일이 힘들지는 않는지 이런 저런 질문을 던졌던 챗봇은 다음 주에는 병원은 다녀왔는지, 소화불량은 좀 나았는지 살뜰하게 안부를 챙긴다. 이전 통화 내용을 기억하는 기능 덕에 맞춤형 대화가 가능하다.

독거노인 등 사회적 소외계층에 주 2~3회 안부전화를 하는 클로바 케어콜 서비스다. 사용자의 외로움을 완화하고 복지 담당자의 업무 부담을 줄여준다는 취지에서 출발했지만 사용자 90%가 위로 받았다고 답할 만큼 반응이 좋다.

AI 챗봇이 빠른 속도로 진화 중이다. 생성형AI의 포문을 연 오픈AI의 챗GPT는 이제 음성과 이미지 정보를 처리할 수 있게 됐다. 음성으로 질문하면 답변도 말로 들을 수 있다. 조만간 자기 목소리를 다른 언어로 번역해서 말하는 것도 가능해진다.

이미지를 분석하고 문제를 이해하는 기능도 추가됐다. "자전거 안장을 낮추려는데 여기서 뭘 써야 해?" 질문과 함께 자전거 매뉴얼과 공구함 사진을 찍어서 올리면 챗GPT가 "왼쪽 섹션에서 4mm 공구를 찾으세요" 가이드 한다.

눈과 귀, 입이 생긴 멀티모달 AI로의 진화다. 텍스트로만 할 수 있던 의사소통의 영역이 시청각 소통과 학습으로 확장되면서 인지나 표현이 한층 사람에 가까와졌다.

하민회 이미지21 대표.

똑똑해진 챗봇 덕에 도처에 비서가 생겼다. 심지어 곧 SNS에도 등장할 예정이다.

메타 (구 페이스북)은 자사의 SNS 제품인 인스타그램과 왓츠앱, 메신저 등에서 구동되는 AI비서 '메타 AI'를 발표했다. 예를 들어 메신저로 친구와 1박2일 산행 계획을 잡고 있다. 이때 메타AI에게 준비물 리스트를 요청하면 즉시 대화에 참여해 답변을 올려준다. 자체 개발한 대규모 언어 모델(LLM) '라마2'기반으로 MS의 검색 엔진 빙과 제휴해 실시간 정보를 제공한다. 메타AI는 미국에서 먼저 테스트버전을 진행한 후 전 세계로 확장할 계획이다.

페르소나 AI 개발도 늘고 있다. AI 챗봇에 인격을 부여해 실제 인물처럼 대화를 나누는 페르소나 AI는 셀럽, 연예인, 스포츠스타 등 인물의 성격과 말투를 모방해 마치 실제 같은 대화 상대가 되어주는 것이 특징이다. 미국에서는 소설‧영화 캐릭터와 유명한 실존인물의 성격을 입힌 페르소나 AI 제작사 '캐릭터닷에이아이'가 유니콘 반열에 오르며 시장의 주목을 받고 있다.

우리나라에서도 최근 페르소나 AI를 가상인간으로 만들어 교육, 금융, 시니어케어 등 다양한 산업 영역에 제공해 수익성을 높이는 비즈니스 모델이 증가 추세다.

업계에서는 누구나 쉽고 빠르게 다양한 가상 인간을 제작하는 환경이 조성되고 있다고 말한다. 단순히 AI 비서나 AI 친구를 넘어 개개인에게 맞춤화된 AI챗봇이 일상화되는 날이 머지않았다는 것이다. 챗GPT가 출시 된지 아직 1년도 지나지 않았으니 새삼 발전속도가 두렵다.

[서울=뉴스핌] 조용준 기자 = 가상인간 리아가 '삼각김밥데이'를 맞아 삼각김밥을 판매하는 쇼호스트로 나섰다. [사진=네오엔터디엑스] 2022.03.03 digibobos@newspim.com

이쯤 되면 우리는 진지하게 생각해 볼 필요가 있다. 부지불식간에 우리 일상에 스며든 AI챗봇과 형성중인 '모종의 관계'에 관해서 말이다.

당신에게 AI챗봇은 조력자인가 친구인가 교사인가 아니면 상담사인가?

특정 키워드를 입력하면 미리 프로그래밍 된 답을 내놓는 단순한 설계를 가진 과거의 챗봇과 달리 AI챗봇은 신뢰도나 친밀도가 높은 '인격적 관계'를 맺고 있다.

문제는 사용자와 챗봇의 인격적 관계가 깊어질수록 챗봇과 보내는 시간은 늘고 실제 사람들과 보내는 시간이 줄어든다는 점이다. 의인화 현상도 심각해진다. 특히 페르소나 AI에서 많이 보이는 현상이다. 사용자는 AI챗봇에게 감정적 소모없이 원하는 때에 하고 싶은 말을 하고 듣고 싶은 말을 듣는다. 개인맞춤화 된 챗봇일수록 대화의 심리적 만족도는 올라가기 마련이다. 외로움을 달래기 위해 시작한 챗봇이 오히려 사용자를 고립시키고 사람들과 교류를 단절시키는 부작용을 일으키는 셈이다.

AI 가상인간에 대한 우려도 적지 않다. 앨런AI연구소의 논문에 의하면 AI챗봇이 인간 같은 목소리에 성격까지 갖추면 설정된 페르소나에 따라 잘못된 고정관념을 보이거나 유해한 대화, 공격적이거나 해로운 의견을 낼 수 있는 위험성이 최대 6배까지 증가했다. 미성년 사용자에겐 AI 가상인간과의 친밀한 관계가 대인관계와 가치관 형성에 부정적인 영향을 미칠 수도 있다.

[서울=뉴스핌] 조용준 기자 2022.08.26 digibobos@newspim.com

과도한 챗봇 의존도 역시 짚어 볼 문제다. 지시어 한 두 마디로 빠른 답을 얻는 편리함에 익숙해지면 스스로 찾고 생각하고 개선하려는 노력은 하지 않게 된다. AI의 추천을 거치지 않으면 불안하게 느낄 수도 있고 AI와 다르면 스스로의 선택을 의심할 수도 있다. 어쩌면 많은 것을 해결하고 새로운 것을 창조해내는 토대가 되는 기억력과 사고력까지 상실하게 될 지도 모른다.

네트워크로 연결된 우리 삶의 조각들은 빅데이터로 활용되고 이를 학습한 AI챗봇은 점점 더 인간에게 중요한 대화상대자가 되어갈 것이다. 때로는 외로움을 덜어주고 위로를 주고 해결책을 알려주겠지만 결국 선택하고 받아들이고 결정하는 건 사람의 몫이다.

진화하는 챗봇은 마냥 반기기 보단 경계해야 할 대상이다. 편리함이 우리를 함몰시킬 수 있다. 어떤 경우에도 인간의 미래를 만들어가는 유일한 존재는 우리 자신임을 잊지 않아야 한다.

◇하민회 이미지21대표(코가로보틱스 마케팅자문) =△경영 컨설턴트, AI전략전문가△ ㈜이미지21대표, 코가로보틱스 마케팅자문△경영학 박사 (HRD)△서울과학종합대학원 인공지능전략 석사△핀란드 ALTO 대학 MBA △상명대예술경영대학원 비주얼 저널리즘 석사 △한국외대 및 교육대학원 졸업 △경제지 및 전문지 칼럼니스트 △SERI CEO 이미지리더십 패널 △KBS, TBS, OBS, CBS 등 방송 패널 △YouTube <책사이> 진행 중 △저서: 쏘셜력 날개를 달다 (2016), 위미니지먼트로 경쟁하라(2008), 이미지리더십(2005), 포토에세이 바라나시 (2007) 등

사진

김주원, 동점포... 일본전 11연패 막아 [서울=뉴스핌] 박상욱 기자 = 6-7로 뒤진 9회말 투아웃. 류지현호가 또 다시 볼넷 12개를 쏟아내며 일본전 11연패의 벼랑에 선 순간, 김주원이 극적인 동점포를 날렸다. 한국 야구가 프로 1군 선수로 대표팀을 꾸린 국제 대회에서 일본을 꺾은 최근 사례는 2015년 세계야구소프트볼연맹(WBSC) 프리미어12 4강에서 4-3으로 이긴 것이다. 이후 2017년 아시아프로야구챔피언십(APBC) 예선에서 7-8로 진 것을 시작으로 이날까지 일본과 1군 대결에서 1무 10패를 기록했다. 이날 류지현호는 1차전처럼 3점을 먼저 뽑자마자 불펜 투수의 난조로 곧바로 동점을 내주고 역전을 허용했다. 선발 정우주 이후 나선 오원석(3실점)-조병현(2실점)-김영우(1실점)-박영현-배찬승(1실점)-김서현이 이어 던지며 1, 2점차로 내내 끌려가다 어렵게 무승부를 만들어냈다. 안현민. [사진=KBO] 이날 kt의 슬러거 안현민이 일본의 세이브왕을 두들겨 이틀 연속 대형 홈런포를 터뜨린 게 한국 야구팬에게 위안이 됐다. 선발로 나선 한화의 영건 정우주도 호투했다. 최고 구속 154㎞를 찍으며 3이닝 무안타 1볼넷 4탈삼진 무실점으로 일본 타자들을 봉쇄했다. 류지현 감독이 이끄는 한국 야구 대표팀은 16일 일본 도쿄돔에서 열린 K-베이스볼 시리즈 일본과 2차전에서 7-7로 무승부를 기록했다. 류지현 감독과 한국 야구 대표팀. [사진=KBO] 한국은 이날 신민재(2루수)-안현민(우익수)-송성문(3루수)-한동희(1루수)-문보경(지명타자)-문현빈(좌익수)-김주원(유격수)-최재훈(포수)-박해민(중견수) 순으로 타순을 꾸렸다. 정우주가 내려간 4회초 곧바로 3실점 하며 동점을 허용한 한국은 4회말 2사 1, 2루에서 신민재의 안타로 4-3을 만들었다. 일본은 다시 5회초 반격에서 3점을 추가해 6-4로 역전했다. 한국은 7회말 공격에서 1사 후 만루 기회를 잡았다. 대타 박동원의 외야 희생플라이로 1점을 따라붙었다. 일본은 8회초 공격에서 한국의 6번째 투수 배찬승으로부터 또 밀어내기 득점을 뽑아내 2점 차 리드를 되찾았다. 일본은 이날 7점 가운데 4점을 밀어내기로 얻어냈다. 한국은 전날 일본에 사사구 11개(볼넷 9개)를 내줬고, 이날은 볼넷만 12개를 헌납했다. 그러나 5-7로 끌려가던 한국은 8회 안현민에 이어 9회 김주원 등 젊은 선수들의 대포 한 방씩으로 기어이 동점을 만들었다. 안현민은 8회 일본의 5번째 투수 다카하시 히로토를 상대로 비거리 120ｍ 좌중간 솔로 홈런을 때렸다. 일본은 9회말 마무리 투수 오타 다이세이를 올렸다. 오타는 2024년 29세이브에 평균자책점 0.88을 찍은 일본의 간판 클로저다. 김주원은 오타의 3구째를 통타 우중간 담장을 넘겨 도쿄돔을 순간 도서관으로 만들었다. 김주원이 16일(한국시간) 일본 도쿄돔에서 열린 K-베이스볼 시리즈 일본과의 두 번째 경기 9회말 투아웃에서 동점 홈런을 때리고 있다. [사진=SBS 중계화면 캡처] 김서현은 이날 한국이 6-7로 뒤진 9회초 마운드에 올라 1안타 1볼넷을 내주며 1사 1, 3루 위기를 맞았으나 침착하게 무실점으로 이닝을 마쳐 극적인 무승부의 발판을 놓았다. 타선에선 송성문이 돋보였다. 전날 3번 지명 타자로 나와 4타수 1안타 1홈런 1타점 1득점으로 인상적인 플레이를 보였던 송성문은 이날 경기에서도 5타수 2안타 2타점으로 공격을 이끌었다. 우리 선수단은 17일 귀국하며 2026년 1월 사이판 전지훈련을 위해 재소집할 예정이다. 일본과 다음 맞대결은 2026년 3월 일본에서 열리는 월드베이스볼클래식(WBC)이다. psoq1337@newspim.com 2025-11-16 23:13

사진

尹·김용현·최상목 '韓 재판' 줄소환 [서울=뉴스핌] 홍석희 기자 = 이번주 법원에서는 윤석열 전 대통령·김용현 전 국방부 장관·이상민 전 행정안전부 장관·최상목 전 경제부총리 겸 기획재정부 장관·추경호 국민의힘 의원이 한덕수 전 국무총리의 내란 방조 혐의 재판에 증인으로 줄줄이 소환된다. 또 내란 특별검사팀이 기소한 노상원 전 정보사령관의 알선수재 혐의 1심 결심 공판이 진행된다. 16일 법조계에 따르면 서울중앙지법 형사합의33부(재판장 이진관)는 오는 17일 오전 10시 내란우두머리방조·내란중요임무종사 등 혐의를 받는 한 전 총리의 1심 9차 공판을 연다. 이번 주 법원에서는 윤석열 전 대통령·김용현 전 국방부 장관·이상민 전 행정안전부 장관·회상목 전 경제부총리 겸 기획재정부 장관·추경호 국민의힘 의원이 한덕수 전 국무총리의 내란 방조 혐의 재판에 증인으로 소환됐다. 사진은 윤 전 대통령이 지난 9월 26일 서울 서초동 서울중앙지법에서 열린 특수공무집행방해 혐의 재판에 출석한 모습. [사진=뉴스핌 DB] ◆ 내란우두머리방조 등 혐의 한 전 총리 9차 공판 이날 오전 재판에는 최 전 부총리, 오후 재판에는 추 의원이 각각 증인으로 소환됐다. 최 전 부총리는 지난 5일 재판에 증인으로 소환됐으나 불출석했다. 재판부는 당시 "여러 차례 연락했는데 전화로 연락이 안 되는 상태고, 증인 소환장도 송달이 안 된 상태로 확인된다"고 말했다. 같은 재판부는 오는 19일 오전 10시 한 전 총리의 10차 공판을 진행한다. 이날 재판에는 윤 전 대통령·김 전 장관·이 전 장관이 증인으로 소환됐다. 이들은 앞서 증인으로 불출석한 바 있는데, 재판부는 이들에게 각각 구인영장을 발부하고 과태료 500만원을 부과했다. 한편 재판부는 오는 26일 1심 심리를 종결하고 내년 1월 21일 또는 28일 선고하겠다고 밝혔다. 이진관 재판장은 "12·3 비상계엄이 벌써 1년이 되어 가는 상황이라 (법적) 판단이 필요하다는 사정이 있다"며 선고 시점이 늦어져선 안 된다고 강조했다. 같은 법원 형사합의25부(재판장 지귀연)는 오는 20일 오전 10시 10분 윤 전 대통령의 내란우두머리·직권남용권리행사방해 30차 공판을 연다. 이날 재판에서는 홍장원 전 국가정보원 1차장에 대한 윤 전 대통령 측 반대신문이 진행될 예정이다. 윤 전 대통령과 홍 전 차장은 지난 13일 재판에서 윤 전 대통령 탄핵심판 변론 이후 약 9개월 만에 법정에서 재차 대면했다. 윤 전 대통령은 홍 전 차장의 '주요 정치인 등 체포명단 메모'에 대해 "초고는 글씨가 지렁이처럼 돼 있어 법정에 제시된 메모와 비슷하지 않다"며 신빙성을 공격했다. 윤 전 대통령 측은 반대신문에서 해당 부분을 더욱 집요하게 물고 늘어질 것으로 보인다. 형사합의21부(재판장 이현복)는 오는 17일 오전 10시 노 전 사령관의 개인정보보호법위반·특정범죄가중처벌등에관한법률위반(알선수재) 혐의 결심 공판을 진행한다. 노상원 전 국군정보사령관. [사진=뉴스핌 DB] ◆ 노상원 '알선수재' 1심 종결…내란특검 기소 사건 같은 법원 형사합의21부(재판장 이현복)는 오는 17일 오전 10시 노 전 사령관의 개인정보보호법위반·특정범죄가중처벌등에관한법률위반(알선수재) 혐의 결심 공판을 진행한다. 비상계엄 관련 내란·외환 사건을 수사하는 조은석 특별검사팀이 기소한 사건 가운데 가장 먼저 변론이 종결될 예정이다. 통상 결심 공판 뒤 1∼2개월 이내에 선고가 이뤄지는 점을 고려하면 이르면 올해 안에 선고기일이 잡힐 전망이다. 노 전 사령관은 민간인 신분으로 부정선거 의혹을 수사할 '제2수사단'을 구성하기 위해 문상호 전 정보사령관 등으로부터 정보사 소속 요원들에 대한 인적 정보 등 군사 정보를 넘겨받은 혐의를 받는다. 진급 인사 청탁을 명목으로 김봉규 전 정보사 중앙신문단장(대령)과 구삼회 육군 2기갑여단장(준장)으로부터 현금 총 2000만원과 합계 600만원 상당의 백화점 상품권을 수수한 혐의도 있다. hong90@newspim.com 2025-11-16 07:50