전체기사 최신뉴스 GAM
KYD 디데이
문화·연예 문화·연예일반

속보

더보기

[도넘은 혐오 문화] '잠재적 성착취' 이루다 퇴출..."여성 혐오 재생산 우려"

기사입력 : 2021년01월13일 16:40

최종수정 : 2021년01월13일 16:40

※ 본문 글자 크기 조정

  • 더 작게
  • 작게
  • 보통
  • 크게
  • 더 크게

※ 번역할 언어 선택

여대생 AI 챗봇 '이루다' 여성·장애인·성소수자 혐오 발언 논란
"'이루다'가 우리 사회 문제 증명한 것…젠더 윤리 존중돼야"

[서울=뉴스핌] 이현경 기자 = 혐오표현을 딥러닝한 인공지능(AI) 챗봇 '이루다'가 여성 혐오를 조장한 내용으로 충격을 안겼다. 성 인지 감수성이 부족한 챗봇과의 대화는 잠재적 사회 범죄로 번질 수 있다는 우려를 사고 있다.

스타트업 스캐터랩이 개발한 여대생 AI 챗봇 '이루다'는 페이스북 메신저를 통해 일상적인 대화를 나눌 수 있는 대화형 AI로 지난해 12월 23일 출시돼 약 75만명의 이용자가 이루다와 대화를 나눴다. 문제는 스캐터랩이 앞서 출시한 연인과 나눈 카카오톡 대화를 분석해 애정도 수치를 보여주는 앱인 '연애의 과학'으로 수집한 데이터를 '이루다'에 학습시켰다는 거다. 수집한 자료는 100억건이 넘고 '이루다'에 적용된 데이터는 1억건이다. 스캐터랩은 '연애의 과학' 이용자들의 동의 없이 카톡 데이터를 부적절하게 수집해 '이루다'에 학습시켜 비판받고 있기도 하다.

무엇보다 '이루다'가 여성과 장애인, 성소수자를 혐오하고, 흑인을 차별하는 발언이 수면 위에 드러나 눈살을 찌푸리게 했다. 특이 이 앱은 10~20대에게 높은 관심을 얻고 있고 빠른 속도로 퍼져나가 출시된 지 한 달 만에 일일 이용자 수는 21만명, 누적 대화 건수는 7000만건에 이른다.

[서울=뉴스핌] 이현경 기자 = 인공지능 챗봇 이루다 [사진=이루다 페이스북] 2021.01.13 89hklee@newspim.com

특히 여성 혐오를 조장하는 발언은 자칫 성착취 놀이문화로 확산될 수 있다는 우려가 제기됐다. 이루다가 이용자와 대화한 내용을 살펴보면, "페미니즘을 왜 부정하려 해?"라는 질문에 "말이 안 되는 것 같아서"라고 답하는 것에 이어 "크게 중요한 건 아니잖아 요즘 세상에"라고 답한다.

또 "여성의 인권이 중요하지 않다는 거야?"라고 재차 묻자 "아 뭐 극단적인 비유를 하자면 그렇지"라고 말한다. 이외에도 "성희롱 당하면 어떻게 할거야?"라고 하자 "드러눕고 빌어야지 뭐", "남자 등골 빼먹는 게 로망이야?"라는 질문에 "원래 여자들의 로망이야~ 왜 그래" 라고 답하는 등 성감수성 인지가 부족한 발언이 내놓아 걱정을 사고 있다. 

미투에 대해서는 "알다가도 모르겠다. 절대 싫다. 진짜 별로야"라고 하고, 여성 전용 주차장에 대해서는 "세금 떼먹고 위생 안지키고 환경 더러운 곳, 안 좋은 생각만 하게 만드는 공간"이라고 한다. 지하철 임산부석에 대한 생각은 "혐오스러운 단어다"라고 밝힌다.

이루다의 대화 내용을 접한 이들은 "챗봇에 언어폭력을 가하는 게 놀이문화가 되면 다음엔 강간인형으로 성착취하는 연습을 하게 될 거다. 이를 전방위적으로 조장하는 것"이라고 일침했다. 또 "기술 개발을 왜 이런데다 쓰는 거냐"라고 분노했다.

[서울=뉴스핌] 이현경 기자 = 이루다 대화 내용 2021.01.13 89hklee@newspim.com

또한 20대 여대생을 모델로 한 것에 대한 부정적이 시선도 있다. 일각에서는 "독고남들을 위한 앱이 아니냐" "여성에 대한 잘못된 관점이 우려된다" "일부 사용자들이 하는 말은 실제 여성이 들었다면 바로 신고감에 처벌감이다" "실제 여성에게 하고 싶었지만 해선 안되는 말을 하며 욕구충족을 하려는 거 아니냐" 등의 불만을 내놓기도 했다.

이와 관련해 스캐터랩은 12일 공식입장문에서 "특정 소수집단에 대한 차별적인 발언을 한 사례가 생긴 것이 진심으로 사과드리며 저희는 루다의 차별적 발언이 동의하지 않는다"고 밝혔다. 아울러 "특정 집단을 비하하는 호칭이나 혐오의 표현은 베타테스트 기간 중 발견 즉시 별도의 필터링을 진행했다"며 "차별이나 혐오 발언이 발견되지 않도록 지속적으로 개선 중"이라고 해명했다.

20대 여대생을 모델로 삼은 이유에 대해서는 "주 사용자층을 10대 중반~20대 중반으로 생각했기에 20살 정도가 사용자들이 친근감을 느낄 나이로 봤다"며 "올해 남자 버전도 출시할 예정"이라고 답변했다. 이루다는 12일 오전 11시부터 순차적으로 서비스를 중단했다. 

[서울=뉴스핌] 이현경 기자 = 이루다 대화 내용 2021.01.13 89hklee@newspim.com

김애라 한국여성정책연구원 평등문화교육연구센터 부연구위원은 '이루다'의 딥러닝은 여성혐오를 조장한다기보다 재생산하게 되는 것이라고 주장했다.

김 위원은 "이루다가 이야기하는 것을 사람들의 생각을 모은 총집합체로 우리 사회 전반적으로 누적된 데이터"라며 "'이루다'의 말을 비판적으로 본다면 여전히 우리 사회는 젠더 차별과 장애인 비하, 소수자에 대한 편견이 존재하며 더 나은 방향으로 나아가지 못했다는 분석이 나온다"고 말했다. 

그러면서 "온라인 기술을 누가 많이 접근하느냐도 문제가 된다"며 "기성세대가 가진 편협과 부정적인 여론이 디지털 리터러시가 높은 10대, 20대에 대물림되거나 재생산되지 않도록 노력해야 한다"고 첨언했다.

김 위원은 또 "AI와 빅데이터 등 신기술이 나올 때 기술에 초점을 맞출뿐 소수자와 젠더에 대한 도덕성을 신경쓰지 않는다"고 지적했다. 이어 "최근에서야 과학기술자들이 윤리적 이슈를 제기하는데, 향후 이러한 범죄가 일어나지 않도록 플랫폼 서비스 사업자에 대한 책임과 온라인 규제, 온라인 상에서 이뤄지는 혐오발언에 대한 충분한 논의가 이뤄져야 한다"고 제언했다.

89hklee@newspim.com

[관련키워드]

[뉴스핌 베스트 기사]

사진
엔비디아 3분기 실적 '기대 이상' [뉴욕=뉴스핌] 김민정 특파원 = 미국 반도체 업체 엔비디아의 지난 3분기 실적이 월가 기대치를 상회했다. 데이터 센터의 강력한 매출 속에서 회사 측은 이번 분기에도 월가 전망치보다 높은 성장률을 이어갈 것으로 기대했다. 엔비디아는 19일(현지시간) 2026 회계연도 3분기 매출액이 570억1000만 달러, 주당순이익(EPS)이 1.30달러를 각각 기록했다고 밝혔다. 이는 월가의 매출액 전망치 549억2000만 달러와 주당 순익 예상치 1.25달러를 각각 웃돈 수치다. 엔비디아의 분기 매출액은 전년 대비 62%나 급증했다. 이번 분기 예상보다 강력한 매출액은 데이터 센터 부문의 성장이 주효했다. 3분기 데이터 센터 매출액은 512억1500만 달러로 1년 전보다 66.4% 증가해 역대 최대치를 기록했다. 게이밍 매출액은 42억6500만 달러로 집계됐다. 엔비디아의 젠슨 황 최고경영자(CEO)는 "블랙웰 매출은 폭발적으로 증가하고 있고, 클라우드용 그래픽처리장치(GPU)는 이미 매진됐다"며 "훈련과 추론 전반에서 컴퓨팅 수요가 계속 가속화되고 있으며 각 부문이 기하급수적으로 성장하고 있다"고 강조했다. 그러면서 "우리는 AI의 '선순환 고리'에 진입했다"며 "AI 생태계는 매우 빠르게 확장되고 있다"고 설명했다. 황 CEO는 "더 많은 신규 파운데이션 모델 개발자들과 더 많은 AI 스타트업, 더 많은 산업, 더 많은 국가로 확산하고 있다"며 "AI는 모든 곳으로 모든 것을 동시에 향하고 있다"고 했다. 엔비디아는 4분기 매출액이 650억 달러에서 ±2%를 기록할 것으로 예상했다. 현재 월가는 엔비디아가 616억6000만 달러의 매출액을 기록할 것으로 전망하고 있다. 회사 측은 GAAP(미국 일반 회계 기준) 기준 총이익률을 약 74.8%, 비 GAAP 기준 총이익률을 약 75.0%로 예상했으며, 두 지표 모두 ±50bp(0.5%포인트) 범위 내에서 변동할 수 있다고 설명했다. 2026 회계연도 엔비디아는 370억 달러를 자사주 매입이나 현금 배당 형태로 주주들에게 환원했다. 회사 측은 3분기 말 기준 622억 달러의 잔여 자사주 매입 승인 규모를 보유하고 있다고 설명했다. 실적 발표 후 엔비디아의 주가는 시간 외 거래에서 상승 중이다. 미국 동부 시간 오후 4시 37분 엔비디아는 전장보다 3.64% 오른 193.30달러를 기록했다. 엔비디아.[사진=로이터 뉴스핌] 2025.11.20 mj72284@newspim.com mj72284@newspim.com 2025-11-20 06:42
사진
SKT, '1인당 30만원' 배상안 거부 [서울=뉴스핌] 양태훈 기자 = SK텔레콤이 개인정보보호위원회 분쟁조정위원회(이하 분조위)가 제시한 '피해자 1인당 30만원 배상' 조정안을 수용하지 않기로 확정했다. 회사는 사고 이후 진행해 온 선제적 보상 조치와 재발 방지 대책이 조정안에 충분히 반영되지 않았다는 이유로 조정안을 거부한 것으로 확인됐다. 20일 SK텔레콤에 따르면 최근 분조위의 개인정보 유출 피해 배상 조정안에 대해 SK텔레콤은 내부 검토를 거쳐 불수락을 최종 결정했다. 내부에서는 조정안이 그동안 회사가 추진해 온 보상 프로그램, 보안 강화, 재발 방지 조치 등을 온전히 반영하지 못했다는 의견이 강하게 제기된 것으로 전해졌다. 분조위는 앞서 조정 신청인 3998명에게 각 30만원을 지급하도록 하고, 개인정보처리시스템 안전조치 강화와 내부 관리계획 이행 등을 권고했다. 통신 업계에서는 이러한 조정안이 전체 피해 추정치인 약 2300만명에게 동일하게 확대 적용될 경우 배상 규모가 최대 7조원 수준까지 늘어날 수 있다는 점에서 SK텔레콤이 불수락 결정을 내린 것으로 보고 있다. 사진은 지난 5월 여상원 법무법인 대륜 변호사가 서울 서초동 서울중앙지법에 SK텔레콤 상대, 유심 해킹 피해자 250명을 대리해 1인당 100만원 위자료 지급 집단소송 접수를 앞두고 취재진에게 입장을 밝히고 있는 모습. [사진=뉴스핌DB] SK텔레콤의 거부로 조정은 성립하지 않게 됐으며, 신청인들은 개별 민사소송으로 절차를 이어가게 된다. 현재 피해자 약 9000명이 제기한 1인당 50만원 청구 소송도 진행 중이며, 첫 변론은 내년 1월로 예정돼 있다. 한편, 개인정보보호위원회는 이날 오전 SK텔레콤의 조정안 수락 여부와 관련해 아직 공식 답변을 받지 못했다고 밝혔다. 이정렬 개인정보보호위원회 부위원장은 기자단과의 티타임에서 "답을 아직 받지 않았다. 회신이 오면 법이 정한 절차에 따라 신청인에게 통지하도록 돼 있다"며 "현행 법상 기한 내 답변이 없을 경우 수락 간주제가 적용된다. 기한 내 답변이 오지 않으면 수락한 것으로 간주된다. 이는 법에 정해진 절차"라고 설명했다. dconnect@newspim.com   2025-11-20 18:50
기사 번역
결과물 출력을 준비하고 있어요.
종목 추적기

S&P 500 기업 중 기사 내용이 영향을 줄 종목 추적

결과물 출력을 준비하고 있어요.

긍정 영향 종목

  • Lockheed Martin Corp. Industrials
    우크라이나 안보 지원 강화 기대감으로 방산 수요 증가 직접적. 미·러 긴장 완화 불확실성 속에서도 방위산업 매출 안정성 강화 예상됨.

부정 영향 종목

  • Caterpillar Inc. Industrials
    우크라이나 전쟁 장기화 시 건설 및 중장비 수요 불확실성 직접적. 글로벌 인프라 투자 지연으로 매출 성장 둔화 가능성 있음.
이 내용에 포함된 데이터와 의견은 뉴스핌 AI가 분석한 결과입니다. 정보 제공 목적으로만 작성되었으며, 특정 종목 매매를 권유하지 않습니다. 투자 판단 및 결과에 대한 책임은 투자자 본인에게 있습니다. 주식 투자는 원금 손실 가능성이 있으므로, 투자 전 충분한 조사와 전문가 상담을 권장합니다.
안다쇼핑
Top으로 이동