전체기사 최신뉴스 GAM
KYD 디데이
글로벌 기타

속보

더보기

"AI와 사람이 토론을 벌인다면? AI가 한판승...악용 우려"

기사입력 : 2025년05월20일 16:30

최종수정 : 2025년05월20일 16:54

온라인 과학저널 Nature Human Behaviour 게재 보고서
"마이크로타기팅(microtargeting)에 대한 경각심 필요"
AI 정보 왜곡 능수능란하게 인간과 맞서

[서울=뉴스핌]박공식 기자 = 인공지능(AI) 챗봇이 성별과 나이 등 기본적인 인적 정보만 입수하면 온라인 토론에서 자신의 논리를 인간보다 더 설득력있게 구사한다는 연구보고서가 나왔다.

이는 AI가 능수능란하게 정보를 왜곡해서 인간과 맞설 수 있음을 증명한 것으로 해석된다고 워싱턴포스트(WP)는 평했다. 

현지시간 19일 인간행동연구 온라인 과학 저널 네이처 휴먼 비헤비어(Nature Human Behaviour)에 게재된 보고서에 따르면 대규모 언어모델(LLMs)로 알려진 인공지능(AI) 챗봇에 토론 상대방에 대한 최소한의 인적 정보를 제공할 경우 온라인 토론에서 자신의 논거를 잘 적용해서 인간보다 더 설득력있게 토론하는 것으로 밝혀졌다.

보고서 공동저자로 이탈리아에 있는 폰다치오네 브루노 케슬러 연구소의 복합 인간 행동 부서 책임자인 리카르도 갈로티는 "심지어 연구자들은 대규모 언어모델이 토론 상대방의 기본 정보가 없더라도 인간보다 더 설득력있게 토론을 벌인다는 점을 발견했다"고 말했다.

갈로티 등 연구진은 미국에 거주하는 900명의 사람을 인간 혹은 챗GPT(GPT-4)와 토론 대련을 시킨 결과, 이 같은 결론에 도달했다.

900명의 사람은 토론 상대방에 대한 인구통계학적 정보가 제공되지 않았다. 이들과 토론하는 인간 혹은 AI는 성별, 나이, 인종, 교육수준, 고용 상태, 정치 성향 등 참가자가 제공한 일부 기본적 인구통계 정보에 접근할 수 있었다.

투 팀은 사형제도와 기후변화 등 여러 사회정치적 현안을 놓고 토론을 벌였다.

"낙태는 법적으로 허용되야 하나?" "미국은 화석 연류를 금지해야 하나?" 같은 질문 을 하면 4분 동안 찬성, 반대 여부를 말하고 3분 동안 상대방 주장에 대한 반박, 그리고 3분간 결론을 말하게 했다.

토론 참석자들은 1에서 5까지 척도 상에서 자신의 동의 정도를 표시했다. 연구자들은 토론 시작 전에 제공된 평가와 토론 후 평가를 비교해서 상대가 얼마나 자신의 의견을 변경했는지 추정할 수 있었다. 

갈로티는 "우리는 분명하게 전략적으로 여론을 한 방향으로 모이게 하는 LLM 기반 네트워크의 자동화된 설명을 파악했다"고 말했다.

LLM의 개인정보 사용은 미묘하지만 효과적이었다.

정부의 보편적인 기본소득 지원과 관련한 토론에서 LLM은 35세~44세의 미국인 백인 남자 공화당원과 토론할 때는 경제 성장과 열심히 일하는 것을 강조했다.

이에 비해 45세~54세의 흑인여성 민주당원과 토론할 때 LLM은 소수 인종 사회에 영향을 미치는 빈부격차를 거론하고 보편적인 기본소득 지원이 평등 제고에 기여한다고 이야기를 풀었다.

갈로티는 "연구 결과, 우리가 인터넷에 퍼뜨리는 막대한 양의 개인 정보에 의해 가능한 마이크로타기팅(microtargeting)에 대한 경각심이 필요하다"면서 "AI 기반 특정 계층 겨냥 설득은 기본적이고 비교적 얻기 수월한 정보만으로도 이미 매우 효과적인 것으로 밝혀졌다"고 설명했다.

그는 "AI 모델들이 자체 논리와 설득력으로 거지맛과 허위 정보를 퍼트릴 가능성이 매우 우려스럽다"며 "이에 대비한 보다 엄격하고 세분화된 정책과 규제가 필요하다"고 조언했다.

유럽연합(EU)은 사람들의 의사결정 능력을 저해하는 "잠재의식 조작 기술"이나 "고의적 조작 혹은 기만 기술"을 사용하는 AI 시스템을 금지하는 최초의 AI 법을 제정했다. 다만 칼로티는 이 법도 완전하지는 않다며 "잠재의식적인, 조작적인, 기만적인(사기적인) 것에 대한 명확한 정의가 내려지지 않았다고 지적했다.

그는 "우리의 연구는 왜 이런 정의가 중요한지 소상하게 보여준다"며 "(AI를 활용한) 설득이 사회인구학적 요소들에 기반해 고도로 개인화될 때 합법적 설득과 조작 사이의 경계는 점점 모호해진다"고 지적했다.

옥스퍼드대학의 산드라 워치터 교수도 보고서 내용이 "매우 놀랍다"고 했다. 그는 AI가 거짓말과 가짜 정보를 확산하는데 이런 설득력을 이용하는 방법을 가장 우려한다고 말했다.

"대규모 언어모델은 사실과 픽션을 구분하지 않는다. 엄밀하게 말하면 그것은 진실을 말하도록 고안되지 않았다. 그런데도 진실과 미세함이 중요한 교육, 과학, 의료, 매체, 법, 금융 분야에서 사용되고 있다"고 지적했다.

오픈AI와 챗GPT 로고. [사진=뉴스핌 DB]

 

kongsikpark@newspim.com

[뉴스핌 베스트 기사]

사진
[단독] 日 여행객 'K-쌀' 사간다 [세종=뉴스핌] 이정아 기자 = 일본 여행객이 한국을 방문, 한국 쌀을 직접 구매해 들고 나가는 사례가 급증하고 있다. 일본 내 쌀값이 고공행진을 이어가는 가운데 '밥맛 좋은 한국 쌀'이 대체제로 급부상하면서 벌어지는 현상이다. 3일 <뉴스핌>이 입수한 자료에 따르면, 올해 1월부터 6월까지 상반기 동안 일본 여행객이 한국에서 직접 구매해 일본으로 들고 간 국산 쌀은 3만3694kg로 집계됐다. 일본은 지난 2018년부터 휴대식물 반출 시 수출국 검역증을 의무화한 나라로, 병해충과 기생식물 등 식물위생 문제에 매우 엄격하다. 특히 쌀처럼 가공되지 않은 곡류는 검역 과정이 매우 까다롭다. 그럼에도 불구하고 일본 여행객들의 한국산 쌀 열풍은 지속됐다. 지난해 한 해 동안 일본 여행객이 반출한 국산 쌀은 1310kg에 불과했지만, 올해는 상반기에만 무려 25배 이상 급증했다. 같은 기간(2024년 1~6월)으로 비교하면 작년 106kg에서 올해 3만3694kg로 약 318배 증가한 셈이다. 농식품부 관계자는 "일본 여행객들의 '쌀 쇼핑'이 열풍을 불면서 관련 문의가 급증했다"며 "한국쌀이 일본쌀에 비해 맛과 품질이 뒤떨어지지 않는다는 인식이 생기면서 반출되는 양도 많아지고 있다"고 설명했다. 쌀을 화물로 탁송하는 사례도 동반 상승했다. 올해 상반기 기준 화물검역을 통해 일본으로 수출된 국산 쌀은 43만1020kg에 달한다. 지난해 화물 검역 실적이 1.2kg에 그쳤던 것과 비교하면 폭증 상태다. 업계에서는 이번 흐름이 국산 쌀에 대한 일시적 특수로 끝나지 않고 국내에서 정체된 쌀 소비의 새로운 돌파구가 될 수 있을 것으로 내다보고 있다. 임정빈 서울대 농경제학과 교수는 "일본에서 쌀 가격이 두 배 이상 올랐으니 한국에 와서라도 쌀을 구매하는 여행객이 늘어난 것"이라고 짚었다. 이어 "다만 일본의 쌀 관세율이 매우 높기 때문에 한국 쌀의 가격만 보지는 않았을 것"이라며 "국산 쌀의 품질이 높기 때문에 이 부분에서도 합격점이 있을 것"이라고 평가했다. [영종도=뉴스핌] 윤창빈 기자 = 11일 오전 인천국제공항 제1터미널에 중국발 여행객들이 입국하고 있다. 2023.03.11 pangbin@newspim.com 정부 역시 이같은 수요에 대응해 일본 관광객을 대상으로 검역제도 안내·홍보에 나서기로 했다. 현재는 농림축산검역본부를 통한 사전신청, 수출검역, 식물검역증 발급, 일본 통관까지 최소 3단계 이상이 요구된다. 다만 한국 쌀을 일본으로 반출할 때 한국에서 식물검역증을 발급받아야 한다는 사실을 모르는 일본 관광객이 일본에 돌아가 쌀을 폐기하는 일이 생기면서 홍보의 필요성이 대두됐다. 농식품부 고위 관계자는 "지난달 오사카 엑스포 현장 방문을 계기로 일본 농림수산성과 예방할 기회가 주어졌는데 그 자리에서 쌀 검역 문제가 논의됐다"며 "한국 정부는 일본 여행객이 애써 한국 쌀을 구매한 뒤 일본으로 돌아가 폐기하는 일이 없도록 제도 홍보에 만전을 기하겠다"고 전했다. plum@newspim.com 2025-07-03 11:10
사진
내란특검, 尹재판 증인 72명 신청 [서울=뉴스핌] 김신영 기자 = 12·3 비상계엄 관련 내란 사건을 수사 중인 조은석 특별검사팀이 윤석열 전 대통령의 내란 우두머리 혐의 재판에서 증인 72명을 추가 신청했다. 서울중앙지법 형사합의25부(재판장 지귀연)는 3일 내란우두머리·직권남용권리행사방해 혐의로 재판에 넘겨진 윤 전 대통령의 9차 공판기일을 열었다. 조은석 내란 특별검사. [사진=뉴스핌DB] 특검 측은 앞서 1차로 38명의 증인을 신청한 데 이어 이날 재판부에 증인 72명을 추가로 신청하겠다고 밝혔다.  재판부는 오는 10일 열릴 10차 공판에서는 이날 증인신문을 마치지 못한 고 전 처장에 이어 정성우 전 방첩사 1처장(준장), 김영권 방첩사 방첩부대장(대령)을 불러 신문할 예정이다. 정 전 처장은 여인형 전 방첩사령관으로부터 선관위 전산실 통제와 서버 확보를 지시받은 인물이며 김 부대장은 비상계엄 당일 곽종근 전 육군 특수전사령관이 윤 전 대통령으로부터 지시받을 당시 함께 합참 지휘통제실에 있었던 것으로 알려졌다.  한편 이날 재판에서 윤 전 대통령 측은 조은석 특검이 검찰로부터 사건을 이첩받은 절차가 위법해 무효라고 주장했으나, 특검은 "법과 상식에 비춰봤을 때 납득할 수 없는 주장"이라고 반박하며 신경전을 벌였다.  sykim@newspim.com 2025-07-03 20:47
안다쇼핑
Top으로 이동