AI 핵심 요약
beta- 바이트댄스와 알리바바가 7월6일 AI 동반자 기능을 중단하며 중국 정부의 인간형 AI 규제 시행에 대비했다.
- 중국 신규 규제는 감정·성격 모방 챗봇이 미성년자에게 극단 감정을 유발하거나 현실 인간관계를 저해하는 정서적 의존을 금지했다.
- 해당 규제는 민감한 대화 데이터의 학습 활용도 제한하며, 업계는 혁신 저해와 함께 글로벌 차원의 심리적 위험 경계 확산을 지적했다.
!AI가 자동 생성한 요약으로 정확하지 않을 수 있어요.
다음은 인공지능(AI) 번역을 통해 생산한 콘텐츠로, 원문은 7월6일 블룸버그 보도입니다.
[서울=뉴스핌] 황숙혜 기자 = 바이트댄스와 알리바바(BABA)가 이용자가 인공지능(AI) 동반자를 생성하고 대화할 수 있는 기능을 잇따라 중단하며, 인간과 유사한 상호작용을 규율하는 중국 정부의 신규 규제 시행에 대비하고 있다.
블룸버그에 따르면 바이트댄스의 AI 챗봇 '더우바오(Doubao)'는 이용자가 AI 페르소나를 직접 설정할 수 있는 기능을 오는 7월 15일부터 종료한다.
앱 내 공지를 통해 해당 기능은 별도의 독립형 동반자 애플리케이션으로 이전된다고 안내했다. 알리바바의 '큐원(Qwen)' 역시 유사한 공지를 발표했으며, 텐센트의 '위안바오(Yuanbao)' 등 주요 플랫폼들도 같은 조치를 취하고 있는 것으로 현지 언론은 전했다.
이 같은 움직임은 7월 중순 시행 예정인 중국 정부의 신규 규제를 앞두고 이뤄진 것이다. 해당 규제는 인간과 유사한 AI 서비스에 대한 감독을 강화하는 내용을 담고 있다.
특히 인간의 성격과 감정을 모방하는 AI 챗봇과 이에 따른 사용자 의존 가능성에 대한 우려가 규제 도입의 배경으로 지목된다. 관련 규정은 지난 4월 처음 공개됐다.
이번 조치는 AI의 잠재적 부작용을 사전에 차단하기 위한 목적을 갖고 있지만, 일부 기업들은 과도한 규제가 혁신을 저해할 수 있다는 우려도 제기하고 있다. 동시에 대화형 AI가 사용자에게 미치는 심리적 영향에 대한 글로벌 차원의 경계심이 확대되고 있음을 보여준다.
미국에서도 유사한 기능을 둘러싼 법적 논란이 커지고 있다. 오픈AI(OpenAI)와 알파벳(Alphabet)의 지원을 받는 캐릭터다.
AI(Character.AI)는 실제 인간과 유사한 챗봇이 사용자에게 과도한 정서적 의존을 유발하고, 일부 극단적 사례에서는 취약한 이용자의 자해 및 사망으로 이어졌다는 내용의 소송에 직면한 바 있다.
중국 국가인터넷정보판공실(CAC)이 주도한 이번 규제는 미성년자에게 극단적인 감정을 유발하거나 현실 인간관계를 저해하는 정서적 의존을 조장하는 콘텐츠 생성을 금지하고 있다. 또한 이용자의 민감한 대화 데이터를 향후 AI 모델 학습에 활용하는 것도 제한하는 내용을 포함하고 있다.
shhwang@newspim.com
