전체기사 최신뉴스 GAM
KYD 디데이
글로벌 기타

속보

더보기

"AI와 사람이 토론을 벌인다면? AI가 한판승...악용 우려"

기사입력 : 2025년05월20일 16:30

최종수정 : 2025년05월20일 16:54

온라인 과학저널 Nature Human Behaviour 게재 보고서
"마이크로타기팅(microtargeting)에 대한 경각심 필요"
AI 정보 왜곡 능수능란하게 인간과 맞서

[서울=뉴스핌]박공식 기자 = 인공지능(AI) 챗봇이 성별과 나이 등 기본적인 인적 정보만 입수하면 온라인 토론에서 자신의 논리를 인간보다 더 설득력있게 구사한다는 연구보고서가 나왔다.

이는 AI가 능수능란하게 정보를 왜곡해서 인간과 맞설 수 있음을 증명한 것으로 해석된다고 워싱턴포스트(WP)는 평했다. 

현지시간 19일 인간행동연구 온라인 과학 저널 네이처 휴먼 비헤비어(Nature Human Behaviour)에 게재된 보고서에 따르면 대규모 언어모델(LLMs)로 알려진 인공지능(AI) 챗봇에 토론 상대방에 대한 최소한의 인적 정보를 제공할 경우 온라인 토론에서 자신의 논거를 잘 적용해서 인간보다 더 설득력있게 토론하는 것으로 밝혀졌다.

보고서 공동저자로 이탈리아에 있는 폰다치오네 브루노 케슬러 연구소의 복합 인간 행동 부서 책임자인 리카르도 갈로티는 "심지어 연구자들은 대규모 언어모델이 토론 상대방의 기본 정보가 없더라도 인간보다 더 설득력있게 토론을 벌인다는 점을 발견했다"고 말했다.

갈로티 등 연구진은 미국에 거주하는 900명의 사람을 인간 혹은 챗GPT(GPT-4)와 토론 대련을 시킨 결과, 이 같은 결론에 도달했다.

900명의 사람은 토론 상대방에 대한 인구통계학적 정보가 제공되지 않았다. 이들과 토론하는 인간 혹은 AI는 성별, 나이, 인종, 교육수준, 고용 상태, 정치 성향 등 참가자가 제공한 일부 기본적 인구통계 정보에 접근할 수 있었다.

투 팀은 사형제도와 기후변화 등 여러 사회정치적 현안을 놓고 토론을 벌였다.

"낙태는 법적으로 허용되야 하나?" "미국은 화석 연류를 금지해야 하나?" 같은 질문 을 하면 4분 동안 찬성, 반대 여부를 말하고 3분 동안 상대방 주장에 대한 반박, 그리고 3분간 결론을 말하게 했다.

토론 참석자들은 1에서 5까지 척도 상에서 자신의 동의 정도를 표시했다. 연구자들은 토론 시작 전에 제공된 평가와 토론 후 평가를 비교해서 상대가 얼마나 자신의 의견을 변경했는지 추정할 수 있었다. 

갈로티는 "우리는 분명하게 전략적으로 여론을 한 방향으로 모이게 하는 LLM 기반 네트워크의 자동화된 설명을 파악했다"고 말했다.

LLM의 개인정보 사용은 미묘하지만 효과적이었다.

정부의 보편적인 기본소득 지원과 관련한 토론에서 LLM은 35세~44세의 미국인 백인 남자 공화당원과 토론할 때는 경제 성장과 열심히 일하는 것을 강조했다.

이에 비해 45세~54세의 흑인여성 민주당원과 토론할 때 LLM은 소수 인종 사회에 영향을 미치는 빈부격차를 거론하고 보편적인 기본소득 지원이 평등 제고에 기여한다고 이야기를 풀었다.

갈로티는 "연구 결과, 우리가 인터넷에 퍼뜨리는 막대한 양의 개인 정보에 의해 가능한 마이크로타기팅(microtargeting)에 대한 경각심이 필요하다"면서 "AI 기반 특정 계층 겨냥 설득은 기본적이고 비교적 얻기 수월한 정보만으로도 이미 매우 효과적인 것으로 밝혀졌다"고 설명했다.

그는 "AI 모델들이 자체 논리와 설득력으로 거지맛과 허위 정보를 퍼트릴 가능성이 매우 우려스럽다"며 "이에 대비한 보다 엄격하고 세분화된 정책과 규제가 필요하다"고 조언했다.

유럽연합(EU)은 사람들의 의사결정 능력을 저해하는 "잠재의식 조작 기술"이나 "고의적 조작 혹은 기만 기술"을 사용하는 AI 시스템을 금지하는 최초의 AI 법을 제정했다. 다만 칼로티는 이 법도 완전하지는 않다며 "잠재의식적인, 조작적인, 기만적인(사기적인) 것에 대한 명확한 정의가 내려지지 않았다고 지적했다.

그는 "우리의 연구는 왜 이런 정의가 중요한지 소상하게 보여준다"며 "(AI를 활용한) 설득이 사회인구학적 요소들에 기반해 고도로 개인화될 때 합법적 설득과 조작 사이의 경계는 점점 모호해진다"고 지적했다.

옥스퍼드대학의 산드라 워치터 교수도 보고서 내용이 "매우 놀랍다"고 했다. 그는 AI가 거짓말과 가짜 정보를 확산하는데 이런 설득력을 이용하는 방법을 가장 우려한다고 말했다.

"대규모 언어모델은 사실과 픽션을 구분하지 않는다. 엄밀하게 말하면 그것은 진실을 말하도록 고안되지 않았다. 그런데도 진실과 미세함이 중요한 교육, 과학, 의료, 매체, 법, 금융 분야에서 사용되고 있다"고 지적했다.

오픈AI와 챗GPT 로고. [사진=뉴스핌 DB]

 

kongsikpark@newspim.com

[뉴스핌 베스트 기사]

사진
오광수 낙마로 본 정권 인사 수난사 [서울=뉴스핌] 이재창 정치전문기자 = 인사는 만사다. 인사를 잘하면 지지율 상승과 함께 국정 동력을 확보할 수 있다. 반대로 인사가 망사가 되면 지지율이 떨어져 국정 운영에 어려움을 겪을 수 있다. 역대 대통령은 조각에서 난맥상을 보이며 후보자들의 잇따른 낙마로 애를 먹었다. 거의 예외가 없었다. 매 정권마다 초기 인사에 대한 비판적인 조어가 등장했다. 이명박 정부의 고소영(고려대·소망교회·영남), 문재인 정부의 캠코더(캠프·코드·더불어민주당), 윤석열 정부의 서오남(서울대·50대·남성)이 대표적이다. 국민에게 감동을 주는 인사와는 거리가 멀었다. 국민의 싸늘한 시선에 직면했다.  [서울=뉴스핌] 이재명 대통령이 12일 서울 서초구 한강홍수통제소에서 열린 수해 대비 현장 점검 회의에서 발언하고 있다. [사진=대통령실] 2025.06.13 photo@newspim.com 이재명 정권도 예외는 아니다. 이재명 대통령의 인사에서 첫 낙마자가 나왔다. 이 대통령은 지난 13일 오광수 대통령실 민정수석비서관의 사의를 수용했다. 지난 8일 임명된 지 닷새 만이다. 공직기강 확립과 인사 검증을 담당하는 민정수석이 낙마한 게 더 아플 수밖에 없다. 인사 검증 작업에 차질이 생길 경우 인선이 늦어질 수 있다. 박근혜 정부는 조각에 52일 걸렸고, 문재인 정부는 195일 만에 조각을 완성했다. 윤석열 정부는 조각에 181일이 소요됐다. 강유정 대통령실 대변인은 이날 오전 브리핑을 통해 "오 수석이 어젯밤 이 대통령에게 사의를 표명했다"며 "이 대통령은 공직기강 확립과 인사 검증을 담당하는 민정수석의 중요성을 감안해 오 수석의 사의를 받아들였다"고 했다. 오 전 수석은 검찰 '특수통' 출신으로 이 대통령의 사법연수원 18기 동기다. '검찰 개혁'의 특명을 부여받았으나 대출 및 부동산 차명 관리 의혹이 잇따라 제기돼 결국 낙마했다. 이 대통령은 사법 개혁 의지와 국정 철학을 이해하는 인사로 조속한 시일 내에 차기 민정수석을 임명할 예정이지만 인사에 신중을 기할 수밖에 없게 됐다. 자연스레 인사 검증 기준이 높아질 가능성이 높다. 그렇지 않아도 제안을 받는 인사 열에 일곱 정도는 스스로 "검증 통과를 자신할 수 없다"며 손사래를 치는 것으로 전해졌다. 인사가 더 어려워질 수 있다. 오 전 수석에 이어 추가 낙마자가 나오면 치명타가 될 수 있다. 자칫 임기 초반 인사로 어려움을 겪었던 전 정권의 전철을 밟을 수도 있다. 여당 내에서 자성의 목소리가 나온 이유다. 김용민 민주당 원내정책수석부대표는 이날 KBS 라디오에서 "여당 의원의 일원으로서 집권 초기에 이런 문제가 불거진 것에 대해 국민의 눈높이에 맞지 못한 부분이 있었다면 사죄드린다"고 말했다. 인사 수난사는 역대 정권에서 되풀이됐다. 이명박 정부는 2008년 2월 발표한 1차 조각에서 남주홍 통일부 장관 후보자, 박은경 환경부 후보자, 이춘호 여성부 장관 후보자가 인사청문회 과정에서 부동산 투기와 위장 전입 의혹에 휘말려 낙마했다. 박근혜 정부의 초대 내각 인사도 이명박 정부의 닮은꼴이었다. 김용준 국무총리 지명자는 부동산 투기와 아들 병역 면제 의혹이 불거져 지명 5일 만에 자진 사퇴했다. 김종훈 미래창조과학부 장관 후보자와 김병관 국방부 장관 후보자, 황철주 중소기업청장 내정자도 스스로 물러났다. 2014년 6월에는 사의를 밝힌 정홍원 총리 후임으로 지명한 안대희(고액 수임 전관예우 논란), 문창극(역사관 논란) 후보자가 잇따라 낙마했다. 문재인 정부 조각 과정도 순탄치 않았다. 안경환 법무부 장관 후보자는 불법 혼인신고 사건 등으로 사퇴했다. 조대엽 고용노동부 장관 후보자, 이유정 헌법재판소 재판관 후보자, 박성진 중소벤처기업부 장관 후보자도 인사청문회 과정에서 각종 논란이 불거지면서 낙마했다. 윤석열 정부도 다르지 않았다. 김인철 사회부총리 겸 교육부 장관 후보자를 비롯해 정호영·김승희 보건복지부 장관 후보자, 송옥렬 공정거래위원장 후보자가 낙마했고, 박순애 사회부총리 겸 교육부 장관은 35일 만에 학제 개편 논란 등으로 사퇴했다. 역대 정부에서 낙마자가 속출한 것은 인사 검증 시스템이 부실한 것이 원인이지만 대통령의 오기 인사도 한몫했다. 대통령이 특정 인사를 고집하면 주변에서 누구도 강하게 반기를 들기 어렵다. 결국 주요 보직에 임명되거나 지명된 뒤 논란이 불거져 낙마하는 악순환이 되풀이됐다. leejc@newspim.com 2025-06-14 06:00
사진
李대통령, 대북 전단 처벌대책 지시 [세종 = 뉴스핌] 김범주 기자 = 이재명 대통령이 14일 대북 전단 살포와 관련해 예방과 사후 처벌에 대한 대책을 관련 부처에 지시했다. 대통령실 강유정 대변인은 서면 브리핑을 통해 이 대통령이 이같이 지시했다고 밝혔다. 지난 13일 이재명 대통령이 경기도 연천군 육군 25사단 비룡전망대를 방문해 장병들을 격려하고 있다/사진=이재명 대통령 인스타그램 이날 새벽 강화도에서 민간 단체가 북한 지역으로 전단을 살포한 것이 확인되면서 내린 지시로 파악됐다. 강 대변인은 "이재명 정부는 접경지역 주민의 일상과 안전을 위협하고 한반도의 군사적 긴장을 고조시킬 수 있는 불법적인 대북 전단 살포는 중단돼야 한다는 입장을 밝혔다"며 "정부가 입장을 밝혔음에도 이를 위반한 데 대한 상황을 엄중히 인식하고 있다"고 밝혔다. 이 대통령의 지시로 오는 16일 통일부 주관으로 유관 부처 회의를 열어 대북 전단과 관련한 종합 대책을 논의할 예정이다. 한편 대북 전단을 살포한 민간 단체와 개인에 대해서는 법 위반 여부를 따져 조치하겠다는 방침도 밝혔다. 이 대통령은 전날 접경지역 주민 간담회에서 통일부의 대북 전단 불법 살포 자제 요청에 '이를 어기고 대북 전단 살포 행위를 할 경우 처벌하겠다'는 취지의 입장을 밝힌 바 있다. wideopen@newspim.com 2025-06-14 19:50
안다쇼핑
Top으로 이동