전체기사 최신뉴스 GAM 라씨로
KYD 디데이
문화·연예 문화·연예일반

속보

더보기

[도넘은 혐오 문화] '잠재적 성착취' 이루다 퇴출..."여성 혐오 재생산 우려"

기사입력 : 2021년01월13일 16:40

최종수정 : 2021년01월13일 16:40

여대생 AI 챗봇 '이루다' 여성·장애인·성소수자 혐오 발언 논란
"'이루다'가 우리 사회 문제 증명한 것…젠더 윤리 존중돼야"

[서울=뉴스핌] 이현경 기자 = 혐오표현을 딥러닝한 인공지능(AI) 챗봇 '이루다'가 여성 혐오를 조장한 내용으로 충격을 안겼다. 성 인지 감수성이 부족한 챗봇과의 대화는 잠재적 사회 범죄로 번질 수 있다는 우려를 사고 있다.

스타트업 스캐터랩이 개발한 여대생 AI 챗봇 '이루다'는 페이스북 메신저를 통해 일상적인 대화를 나눌 수 있는 대화형 AI로 지난해 12월 23일 출시돼 약 75만명의 이용자가 이루다와 대화를 나눴다. 문제는 스캐터랩이 앞서 출시한 연인과 나눈 카카오톡 대화를 분석해 애정도 수치를 보여주는 앱인 '연애의 과학'으로 수집한 데이터를 '이루다'에 학습시켰다는 거다. 수집한 자료는 100억건이 넘고 '이루다'에 적용된 데이터는 1억건이다. 스캐터랩은 '연애의 과학' 이용자들의 동의 없이 카톡 데이터를 부적절하게 수집해 '이루다'에 학습시켜 비판받고 있기도 하다.

무엇보다 '이루다'가 여성과 장애인, 성소수자를 혐오하고, 흑인을 차별하는 발언이 수면 위에 드러나 눈살을 찌푸리게 했다. 특이 이 앱은 10~20대에게 높은 관심을 얻고 있고 빠른 속도로 퍼져나가 출시된 지 한 달 만에 일일 이용자 수는 21만명, 누적 대화 건수는 7000만건에 이른다.

[서울=뉴스핌] 이현경 기자 = 인공지능 챗봇 이루다 [사진=이루다 페이스북] 2021.01.13 89hklee@newspim.com

특히 여성 혐오를 조장하는 발언은 자칫 성착취 놀이문화로 확산될 수 있다는 우려가 제기됐다. 이루다가 이용자와 대화한 내용을 살펴보면, "페미니즘을 왜 부정하려 해?"라는 질문에 "말이 안 되는 것 같아서"라고 답하는 것에 이어 "크게 중요한 건 아니잖아 요즘 세상에"라고 답한다.

또 "여성의 인권이 중요하지 않다는 거야?"라고 재차 묻자 "아 뭐 극단적인 비유를 하자면 그렇지"라고 말한다. 이외에도 "성희롱 당하면 어떻게 할거야?"라고 하자 "드러눕고 빌어야지 뭐", "남자 등골 빼먹는 게 로망이야?"라는 질문에 "원래 여자들의 로망이야~ 왜 그래" 라고 답하는 등 성감수성 인지가 부족한 발언이 내놓아 걱정을 사고 있다. 

미투에 대해서는 "알다가도 모르겠다. 절대 싫다. 진짜 별로야"라고 하고, 여성 전용 주차장에 대해서는 "세금 떼먹고 위생 안지키고 환경 더러운 곳, 안 좋은 생각만 하게 만드는 공간"이라고 한다. 지하철 임산부석에 대한 생각은 "혐오스러운 단어다"라고 밝힌다.

이루다의 대화 내용을 접한 이들은 "챗봇에 언어폭력을 가하는 게 놀이문화가 되면 다음엔 강간인형으로 성착취하는 연습을 하게 될 거다. 이를 전방위적으로 조장하는 것"이라고 일침했다. 또 "기술 개발을 왜 이런데다 쓰는 거냐"라고 분노했다.

[서울=뉴스핌] 이현경 기자 = 이루다 대화 내용 2021.01.13 89hklee@newspim.com

또한 20대 여대생을 모델로 한 것에 대한 부정적이 시선도 있다. 일각에서는 "독고남들을 위한 앱이 아니냐" "여성에 대한 잘못된 관점이 우려된다" "일부 사용자들이 하는 말은 실제 여성이 들었다면 바로 신고감에 처벌감이다" "실제 여성에게 하고 싶었지만 해선 안되는 말을 하며 욕구충족을 하려는 거 아니냐" 등의 불만을 내놓기도 했다.

이와 관련해 스캐터랩은 12일 공식입장문에서 "특정 소수집단에 대한 차별적인 발언을 한 사례가 생긴 것이 진심으로 사과드리며 저희는 루다의 차별적 발언이 동의하지 않는다"고 밝혔다. 아울러 "특정 집단을 비하하는 호칭이나 혐오의 표현은 베타테스트 기간 중 발견 즉시 별도의 필터링을 진행했다"며 "차별이나 혐오 발언이 발견되지 않도록 지속적으로 개선 중"이라고 해명했다.

20대 여대생을 모델로 삼은 이유에 대해서는 "주 사용자층을 10대 중반~20대 중반으로 생각했기에 20살 정도가 사용자들이 친근감을 느낄 나이로 봤다"며 "올해 남자 버전도 출시할 예정"이라고 답변했다. 이루다는 12일 오전 11시부터 순차적으로 서비스를 중단했다. 

[서울=뉴스핌] 이현경 기자 = 이루다 대화 내용 2021.01.13 89hklee@newspim.com

김애라 한국여성정책연구원 평등문화교육연구센터 부연구위원은 '이루다'의 딥러닝은 여성혐오를 조장한다기보다 재생산하게 되는 것이라고 주장했다.

김 위원은 "이루다가 이야기하는 것을 사람들의 생각을 모은 총집합체로 우리 사회 전반적으로 누적된 데이터"라며 "'이루다'의 말을 비판적으로 본다면 여전히 우리 사회는 젠더 차별과 장애인 비하, 소수자에 대한 편견이 존재하며 더 나은 방향으로 나아가지 못했다는 분석이 나온다"고 말했다. 

그러면서 "온라인 기술을 누가 많이 접근하느냐도 문제가 된다"며 "기성세대가 가진 편협과 부정적인 여론이 디지털 리터러시가 높은 10대, 20대에 대물림되거나 재생산되지 않도록 노력해야 한다"고 첨언했다.

김 위원은 또 "AI와 빅데이터 등 신기술이 나올 때 기술에 초점을 맞출뿐 소수자와 젠더에 대한 도덕성을 신경쓰지 않는다"고 지적했다. 이어 "최근에서야 과학기술자들이 윤리적 이슈를 제기하는데, 향후 이러한 범죄가 일어나지 않도록 플랫폼 서비스 사업자에 대한 책임과 온라인 규제, 온라인 상에서 이뤄지는 혐오발언에 대한 충분한 논의가 이뤄져야 한다"고 제언했다.

89hklee@newspim.com

[뉴스핌 베스트 기사]

사진
서울 시내버스 파업 돌입···지하철역 연계 무료 셔틀 480회 투입 [서울=뉴스핌] 이경화 기자 = 서울지방노동위원회 조정회의에도 불구하고 서울시내버스 노사 간 임금협상이 결렬됨에 따라 서울시는 28일 오전 4시 첫차부터 즉시 비상수송대책 시행에 들어갔다. 서울시는 파업에 대비해 전날인 27일 시·구 비상수송대책본부를 중심으로 교통대책을 마련했고 이날 대체 교통수단을 즉시 투입한다고 밝혔다. [서울=뉴스핌] 정일구 기자 = 서울시가 시내버스 파업에 대비해 28일 오전 4시 첫차부터 비상수송대책 시행에 들어갔다. 서울역 버스종합환승센터 모습. 지하철은 출퇴근 시간대 1시간을 연장하고 심야 운행시간도 다음날 새벽 2시까지 1시간 연장한다. 지하철역과의 연계를 위해 25개 자치구에서는 무료 셔틀버스 총 480대를 투입해 시민 불편을 최소화한다. 지하철 혼잡시간은 오전 7~10시, 오후 6~9시로 조정돼 열차가 추가 투입되고 막차시간은 종착역 기준 익일 2:00까지 연장돼 총 202회 증회된다. 지하철 연계를 위한 무료 셔틀버스는 총 119개 노선, 480대가 빠르게 투입돼 1일 총 4959회 운행된다. 보광운수, 정평운수, 원버스 12개 노선은 정상운행된다. 또 다산콜재단, 교통정보센터 토피스, 서울시 매체, 정류소의 버스정보안내단말기 등을 통해 실시간 교통정보도 제공할 예정이다. 윤종장 서울시 도시교통실장은 "조속한 시일 내에 원만한 노사 합의를 도출하기 위해 총력을 기울일 것"이라며 "가용 가능한 모든 교통수단을 동원해 시민 불편을 최소화 하겠다"고 말했다.  kh99@newspim.com 2024-03-28 07:42
사진
이재명 47.2% vs 원희룡 43.6%···'계양을' 오차범위 내 초접전 [서울=뉴스핌] 홍석희 기자 = 4·10 총선 최대 격전지인 '명룡대전' 인천 계양을에서 이재명 더불어민주당 후보와 원희룡 국민의힘 후보가 3.6%포인트(p) 격차로 초접전을 벌이는 것으로 28일 나타났다. 종합뉴스통신사 뉴스핌 의뢰로 여론조사 전문기관 미디어리서치가 지난 25~26일 인천 계양구 을 선거구 만 18세 이상 남녀 501명에게 총선에서 어떤 후보를 지지하는지 물어본 결과 이 후보가 47.2%, 원 후보가 43.6%를 기록했다. 두 후보의 격차는 오차범위 안쪽인 3.6%p였다. 뒤이어 최창원 내일로미래로 후보 2.4%, 안정권 무소속 후보 1.7% 순이었다. '지지 후보 없음'은 4.4%, '잘 모름'은 0.8%였다. 성별로는 남성에서 이 후보가 49.6%, 원 후보가 40.6%의 지지를 받았고 여성에서는 이 후보가 44.9%, 원 후보가 46.5%로 나타났다. 연령별로 살펴보면 이 후보는 만18세~29세, 40대, 50대에서 원 후보를 앞섰다. 만18세~29세에서 이 후보는 40.1%, 원 후보는 31.2%였고 40대에선 이 후보 60.9%, 원 후보 36.5%로 나타났다. 50대에선 이 후보 54.1%, 원 후보 41.6%였다. 원 후보는 30대, 60대, 70대 이상에서 강세를 보였다. 30대에서 이 후보가 40.4%, 원 후보가 48.8%였고 60대에선 이 후보 44.7%, 원 후보 47.9%로 집계됐다. 70대 이상에선 이 후보 35.2%, 원 후보 63.5%로 격차가 벌어졌다. 권역별로는 큰 차이를 보이지 않았다. 1권역(계산 2동·계산 4동·작전서운동)과 2권역(계양 1동·계양 2동·계양 3동) 모두 이 후보가 앞섰다. 1권역에선 이 후보가 46.5%, 원 후보가 42.8%였고 2권역에선 이 후보 47.9%, 원 후보 44.3%로 나타났다. 지지 정당별로 살펴보면 민주당·조국혁신당 지지층에선 이 후보가, 국민의힘·개혁신당·새로운미래 지지층에선 원 후보가 선두였다. 민주당 지지층에선 이 후보 91%, 원 후보 4.2%였고 국민의힘 지지층에선 이 후보 3.3%, 원 후보 93.4%였다. 조국혁신당 지지층에선 이 후보 91.6%, 원 후보 2.7%였으며 개혁신당 지지층에선 이 후보 11%, 원 후보 61.8%였고 새로운미래 지지층은 이 후보 4.1%, 원 후보 60.6%로 나타났다. '지지 정당이 없다'고 답한 무당층의 경우 이 후보 21%, 원 후보 26.4%를 기록했다. '당선 가능성' 조사에선 두 후보 간 격차가 지지율 조사보다 벌어졌다. '지지 여부를 떠나, 어느 후보가 당선될 것으로 생각하느냐'고 묻자 이 후보는 53.7%, 원 후보는 38.7%를 기록해 15%p 격차를 기록했다. 이번 여론조사는 구조화된 설문지를 이용한 유무선 ARS 전화조사로 이뤄졌으며 통신사에서 제공한 무선 가상번호에서 무작위로 추출한 무선 90%와 15개 주요국번 RDD 유선 10%를 활용했다. 표본오차는 95% 신뢰수준에 ±4.4%p고 응답률은 6.2%다. 2023년 12월 말 행정안전부 주민등록 인구통계를 기준으로 성, 연령대, 지역별 가중치(셀가중)를 부여했다.  보다 자세한 내용은 중앙선거여론조사심의위원회 여론조사 결과 등록현황을 참고하면 된다. hong90@newspim.com 2024-03-28 06:00
안다쇼핑
Top으로 이동