[기고] 진화하는 챗봇을 경계해야 하는 이유

기사입력 : 2023년10월04일 09:03

최종수정 : 2023년10월05일 09:36

하민회 이미지21대표(코가로보틱스 마케팅자문)

"약은 드셨어요?" "무릎은 좀 어떠세요?"

또렷하고 친절한 음성의 챗봇이 안부를 묻는다. 첫 통화에서 어떤 일을 했는지, 일이 힘들지는 않는지 이런 저런 질문을 던졌던 챗봇은 다음 주에는 병원은 다녀왔는지, 소화불량은 좀 나았는지 살뜰하게 안부를 챙긴다. 이전 통화 내용을 기억하는 기능 덕에 맞춤형 대화가 가능하다.

독거노인 등 사회적 소외계층에 주 2~3회 안부전화를 하는 클로바 케어콜 서비스다. 사용자의 외로움을 완화하고 복지 담당자의 업무 부담을 줄여준다는 취지에서 출발했지만 사용자 90%가 위로 받았다고 답할 만큼 반응이 좋다.

AI 챗봇이 빠른 속도로 진화 중이다. 생성형AI의 포문을 연 오픈AI의 챗GPT는 이제 음성과 이미지 정보를 처리할 수 있게 됐다. 음성으로 질문하면 답변도 말로 들을 수 있다. 조만간 자기 목소리를 다른 언어로 번역해서 말하는 것도 가능해진다.

이미지를 분석하고 문제를 이해하는 기능도 추가됐다. "자전거 안장을 낮추려는데 여기서 뭘 써야 해?" 질문과 함께 자전거 매뉴얼과 공구함 사진을 찍어서 올리면 챗GPT가 "왼쪽 섹션에서 4mm 공구를 찾으세요" 가이드 한다.

눈과 귀, 입이 생긴 멀티모달 AI로의 진화다. 텍스트로만 할 수 있던 의사소통의 영역이 시청각 소통과 학습으로 확장되면서 인지나 표현이 한층 사람에 가까와졌다.

하민회 이미지21 대표.

똑똑해진 챗봇 덕에 도처에 비서가 생겼다. 심지어 곧 SNS에도 등장할 예정이다.

메타 (구 페이스북)은 자사의 SNS 제품인 인스타그램과 왓츠앱, 메신저 등에서 구동되는 AI비서 '메타 AI'를 발표했다. 예를 들어 메신저로 친구와 1박2일 산행 계획을 잡고 있다. 이때 메타AI에게 준비물 리스트를 요청하면 즉시 대화에 참여해 답변을 올려준다. 자체 개발한 대규모 언어 모델(LLM) '라마2'기반으로 MS의 검색 엔진 빙과 제휴해 실시간 정보를 제공한다. 메타AI는 미국에서 먼저 테스트버전을 진행한 후 전 세계로 확장할 계획이다.

페르소나 AI 개발도 늘고 있다. AI 챗봇에 인격을 부여해 실제 인물처럼 대화를 나누는 페르소나 AI는 셀럽, 연예인, 스포츠스타 등 인물의 성격과 말투를 모방해 마치 실제 같은 대화 상대가 되어주는 것이 특징이다. 미국에서는 소설‧영화 캐릭터와 유명한 실존인물의 성격을 입힌 페르소나 AI 제작사 '캐릭터닷에이아이'가 유니콘 반열에 오르며 시장의 주목을 받고 있다.

우리나라에서도 최근 페르소나 AI를 가상인간으로 만들어 교육, 금융, 시니어케어 등 다양한 산업 영역에 제공해 수익성을 높이는 비즈니스 모델이 증가 추세다.

업계에서는 누구나 쉽고 빠르게 다양한 가상 인간을 제작하는 환경이 조성되고 있다고 말한다. 단순히 AI 비서나 AI 친구를 넘어 개개인에게 맞춤화된 AI챗봇이 일상화되는 날이 머지않았다는 것이다. 챗GPT가 출시 된지 아직 1년도 지나지 않았으니 새삼 발전속도가 두렵다.

[서울=뉴스핌] 조용준 기자 = 가상인간 리아가 '삼각김밥데이'를 맞아 삼각김밥을 판매하는 쇼호스트로 나섰다. [사진=네오엔터디엑스] 2022.03.03 digibobos@newspim.com

이쯤 되면 우리는 진지하게 생각해 볼 필요가 있다. 부지불식간에 우리 일상에 스며든 AI챗봇과 형성중인 '모종의 관계'에 관해서 말이다.

당신에게 AI챗봇은 조력자인가 친구인가 교사인가 아니면 상담사인가?

특정 키워드를 입력하면 미리 프로그래밍 된 답을 내놓는 단순한 설계를 가진 과거의 챗봇과 달리 AI챗봇은 신뢰도나 친밀도가 높은 '인격적 관계'를 맺고 있다.

문제는 사용자와 챗봇의 인격적 관계가 깊어질수록 챗봇과 보내는 시간은 늘고 실제 사람들과 보내는 시간이 줄어든다는 점이다. 의인화 현상도 심각해진다. 특히 페르소나 AI에서 많이 보이는 현상이다. 사용자는 AI챗봇에게 감정적 소모없이 원하는 때에 하고 싶은 말을 하고 듣고 싶은 말을 듣는다. 개인맞춤화 된 챗봇일수록 대화의 심리적 만족도는 올라가기 마련이다. 외로움을 달래기 위해 시작한 챗봇이 오히려 사용자를 고립시키고 사람들과 교류를 단절시키는 부작용을 일으키는 셈이다.

AI 가상인간에 대한 우려도 적지 않다. 앨런AI연구소의 논문에 의하면 AI챗봇이 인간 같은 목소리에 성격까지 갖추면 설정된 페르소나에 따라 잘못된 고정관념을 보이거나 유해한 대화, 공격적이거나 해로운 의견을 낼 수 있는 위험성이 최대 6배까지 증가했다. 미성년 사용자에겐 AI 가상인간과의 친밀한 관계가 대인관계와 가치관 형성에 부정적인 영향을 미칠 수도 있다.

[서울=뉴스핌] 조용준 기자 2022.08.26 digibobos@newspim.com

과도한 챗봇 의존도 역시 짚어 볼 문제다. 지시어 한 두 마디로 빠른 답을 얻는 편리함에 익숙해지면 스스로 찾고 생각하고 개선하려는 노력은 하지 않게 된다. AI의 추천을 거치지 않으면 불안하게 느낄 수도 있고 AI와 다르면 스스로의 선택을 의심할 수도 있다. 어쩌면 많은 것을 해결하고 새로운 것을 창조해내는 토대가 되는 기억력과 사고력까지 상실하게 될 지도 모른다.

네트워크로 연결된 우리 삶의 조각들은 빅데이터로 활용되고 이를 학습한 AI챗봇은 점점 더 인간에게 중요한 대화상대자가 되어갈 것이다. 때로는 외로움을 덜어주고 위로를 주고 해결책을 알려주겠지만 결국 선택하고 받아들이고 결정하는 건 사람의 몫이다.

진화하는 챗봇은 마냥 반기기 보단 경계해야 할 대상이다. 편리함이 우리를 함몰시킬 수 있다. 어떤 경우에도 인간의 미래를 만들어가는 유일한 존재는 우리 자신임을 잊지 않아야 한다.

◇하민회 이미지21대표(코가로보틱스 마케팅자문) =△경영 컨설턴트, AI전략전문가△ ㈜이미지21대표, 코가로보틱스 마케팅자문△경영학 박사 (HRD)△서울과학종합대학원 인공지능전략 석사△핀란드 ALTO 대학 MBA △상명대예술경영대학원 비주얼 저널리즘 석사 △한국외대 및 교육대학원 졸업 △경제지 및 전문지 칼럼니스트 △SERI CEO 이미지리더십 패널 △KBS, TBS, OBS, CBS 등 방송 패널 △YouTube <책사이> 진행 중 △저서: 쏘셜력 날개를 달다 (2016), 위미니지먼트로 경쟁하라(2008), 이미지리더십(2005), 포토에세이 바라나시 (2007) 등

사진

이재용 장남 해군장교 임관식 '삼성家 총출동' [서울=뉴스핌] 김정인 기자 = 이재용 삼성전자 회장의 장남 이지호(24) 씨가 미국 시민권을 포기하고 해군 장교로 임관했다. 삼성가(家)에서도 처음 배출되는 장교다. 임관식에는 가족들이 총출동해 그의 첫 발을 함께했다. 해군은 28일 경남 창원시 해군사관학교에서 제139기 해군·해병대 사관후보생 수료 및 임관식을 거행했다. 이날 89명의 해군·해병대 장교가 임관했으며, 이 가운데 이씨는 기수를 대표해 제병 지휘를 맡았다. 해군 학사사관후보생 139기 임관식에서 대표로 선 이재용 삼성전자 회장의 장남 이지호씨의 모습. [사진=뉴스핌TV 유튜브 채널 캡처] 이 회장은 연병장 단상에 마련된 가족석에서 홍라희 삼성미술관 리움 명예관장, 이서현 삼성물산 사장과 함께 앉아 아들의 임관 과정을 지켜봤다. 다만 동생인 이원주 씨는 참석하지 않은 것으로 알려졌다. 행사 중간에는 이 회장과 홍 관장이 직접 연병장으로 내려가 이 씨에게 계급장을 달아주기도 했다. 이 회장은 경례와 함께 임관 신고를 받은 뒤 "수고했어"라고 격려했다. 이재용 삼성전자 회장과 홍라희 삼성미술관 리움 명예관장, 이서현 삼성물산 사장이 28일 오후 경남 창원시 진해구 해군사관학교에서 진행된 제139기 해군·해병대 사관후보생 임관식에 참석한 모습. [사진=뉴스핌TV 유튜브 채널 캡처] 이재용 삼성전자 회장과 홍라희 삼성미술관 리움 명예관장이 28일 오후 경남 창원시 진해구 해군사관학교에서 진행된 제139기 해군·해병대 사관후보생 임관식에 참석한 모습. [사진=뉴스핌TV 유튜브 채널 캡처] 모친인 임세령 대상홀딩스 부회장도 이모인 임상민 대상 부사장과 함께 행사장에 모습을 드러냈다. 이 회장과 임 부회장이 2009년 이혼한 이후 같은 공식 석상에서 모습을 드러낸 것은 이번이 처음이다. 임세령 대상홀딩스 부회장(왼쪽)이 28일 오후 경남 창원시 진해구 해군사관학교에서 진행된 제139기 해군·해병대 사관후보생 임관식에 참석한 모습. [사진=뉴스핌TV 유튜브 채널 캡처] 이 씨는 지난 9월 15일 해군 장교 후보생으로 입영했다. 2000년 미국에서 태어난 선천적 복수국적자로, 캐나다에서 고등학교를 졸업한 뒤 프랑스 파리정치대학(Sciences Po)에 진학했고, 최근까지 미국 대학에서 교환학생 프로그램을 이수한 것으로 전해졌다. 그는 해군 장교로 복무하기 위해 미국 시민권을 포기하고 입대를 선택했다. 재계에서는 이를 두고 '특권을 내려놓은 책임의 선택'이라는 평가도 나온다. 이 씨는 임관 직후 3박4일 휴가를 보낸 뒤 다음달 2일 해군교육사령부로 복귀해 3주간 신임 장교를 대상으로 하는 초등군사교육을 받는다. 이후 함정 병과 소속 통역장교로 근무하게 된다. 총 복무 기간은 훈련 기간을 포함해 39개월이며, 복무 연장을 하지 않을 경우 2028년 12월 2일 전역한다. kji01@newspim.com 2025-11-28 15:29

사진

법원 "방통위 YTN 최대주주 변경 승인 취소" [서울=뉴스핌] 김지나 기자 박민경 인턴기자 = 법원이 방송통신위원회의 YTN 최대주주 변경 승인 처분을 취소해야 한다고 판단했다. 지난해 방통위가 2인 체제에서 의결을 진행한 절차에 하자가 있어 위법하다는 이유에서다. 서울행정법원 행정3부(재판장 최수진)는 28일 YTN 우리사주조합이 방통위를 상대로 낸 최다액 출자자 변경 승인처분 취소소송에서 원고 승소 판결을 내렸다. 반면 전국언론노조 YTN 지부가 제기한 동일한 소송은 원고 적격이 없다고 보고 각하했다. YTN 사옥.[사진=뉴스핌DB] 재판부는 "피고(방통위)는 2인만 재적한 상태에서 의결을 거쳐 승인 결정을 내렸다"며 "이는 의결 절차상 하자가 있어 위법하다"고 설명했다. 이어 "방통위법이 규정한 '재적위원 과반수의 찬성으로 의결한다'는 문구는 형식적 해석에만 의존할 것이 아니라, 헌법이 보장하는 방송의 자유와 방통위를 합의제 행정기관으로 둔 입법 취지를 함께 고려해야 한다"고 밝혔다. 또 "합의제 행정기관으로서 방통위의 의사결정은 토론과 숙의 과정을 전제로 한다"며 "재적위원이 2인만 있을 경우 다수결 원리가 사실상 작동하기 어려워 합의제 기관으로서의 기능이 결여된다"고 지적했다. 재판부는 "방통위의 주요 의사결정은 5인 모두 임명돼 재적한 상태에서 3인 이상 찬성으로 이뤄지는 것이 바람직하다"며 "부득이한 사정으로 5인 미만이 재적할 경우라도 실질적 기능을 하려면 최소 3인 이상 재적해야 한다"고 덧붙였다. 앞서 유진기업과 동양이 공동 출자한 특수목적법인(SPC) 유진이엔티는 한전KDN과 한국마사회가 보유한 YTN 지분 30.95%를 인수하며 최대주주로 올라섰다. 방통위는 지난해 2월 7일 유진이엔티의 최다액 출자자 변경 승인을 의결했다. 이에 언론노조 YTN 지부와 우리사주조합은 당시 방통위 '2인 체제' 의결을 문제 삼으며 본안소송과 집행정지 신청을 냈다. 앞서 이들이 낸 집행정지 신청은 각각 각하, 기각 결정을 받았다. pmk1459@newspim.com 2025-11-28 15:37