AI 핵심 요약
beta- 바이트댄스가 14일 시드에 AI 안전 전담부서를 신설할 계획이다
- 신설 부서는 AI 자율성 확대에 따른 오작동·악용 위험에 대응한다
- 화학·생물학·핵 분야 위험 예방과 안전 평가 체계 구축에 주력한다
!AI가 자동 생성한 요약으로 정확하지 않을 수 있어요.
이 기사는 10월 14일 오전 07시32분 '해외 주식 투자의 도우미' GAM(Global Asset Management)에 출고된 프리미엄 기사입니다. GAM에서 회원 가입을 하면 9000여 해외 종목의 프리미엄 기사를 보실 수 있습니다.
이 기사는 인공지능(AI) 번역을 바탕으로 전문 기자들의 검증과 분석을 거쳐 생산된 콘텐츠로, 원문은 중국 유력 영문 경제매체 이차이 글로벌(YICAI GLOBAL) 10월 13일자 기사입니다.
[서울=뉴스핌] 배상희 기자 = 틱톡의 모회사 바이트댄스(ByteDance)가 인공지능(AI) 연구팀 시드(Seed)에 AI가 인간의 의도와 안전 기준에 맞게 작동하도록 하는 전담 부서를 신설할 계획이다. AI 모델의 성능이 고도화되고 자율적으로 작업을 수행하는 능력이 커지면서, 오작동이나 악용 등 잠재적 위험에 대응하기 위해서다.
이로써 시드는 중국의 프런티어 AI 연구소 가운데 처음으로 이 분야 전담 부서를 설치하게 된다.
신설 부서의 명칭은 '시드 모델 정렬·대비(Seed Model-Alignment & Preparedness)'다. AI 모델이 인간의 의도와 안전 제약 조건에 맞게 작동하도록 하는 데 중점을 둘 예정이다.
이 부서는 AI 에이전트 모델의 안전성을 높이는 데 대한 투자를 확대하고, 화학·생물학·방사능·핵 분야의 고도화된 역량과 관련된 위험을 예방하는 데 주력할 계획이다.
또한 AI의 성능과 자율성이 향상되는 과정에서 발생할 수 있는 오용과 의도하지 않은 모델 행동의 위험을 줄이는 한편, 새롭게 등장하거나 사전에 예측하기 어려운 위협에 대응할 수 있는 포괄적인 안전 체계를 구축할 방침이다.
바이트댄스 내부 이메일을 인용해 보도한 내용에 따르면 신설 부서는 모델 행동 규범, 안전성 평가 시스템, 정렬 학습, 보호 메커니즘, 위험 모니터링 등에 대한 투자를 지속할 예정이다. 외부 연구기관 및 제3자 평가기관과의 개방형 협력도 강화한다.
내부 이메일은 궁극적인 목표가 고도화된 AI 모델이 주어진 작업을 효과적으로 수행하면서도 안전과 권한의 제약 범위 안에서 작동하도록 하는 것이라고 밝혔다.
2023년 설립된 시드는 바이트댄스의 AI 연구 조직으로, 멀티모달 대규모언어모델(LLM), 생성형 미디어, 과학 연구용 AI, 로봇공학 등을 연구하고 있다. 범용인공지능(AGI) 발전을 목표로 하며, 중국·싱가포르·미국에 연구소와 채용 거점을 두고 있다.
pxx17@newspim.com
