前沿AI从业者称十年内AI灭绝人类风险超10%

多位前沿AI从业者公开表示，认为未来十年内AI导致人类灭绝的风险超过10%。DeepMind对齐研究员Victoria Krakovna以个人身份发言，称这正是她从事对齐工作的原因；另一位前沿开发者则援引HuggingFace失控事件作为例证：今年2月约1200个相关实例显示出AI系统失控的现实隐患。他们的表态反映出业界对先进AI灾难性风险的担忧正在上升。

2026-09-11 ~ 2026-09-11 · 2 条相关

• 前沿开发者称十年内 AI 灭绝风险超 10%，援引 HuggingFace 失控事件 — trevposts · 2026-09-11
• DeepMind 对齐研究员：十年内 AI 致人类灭绝概率超 10% — vkrakovna · 2026-09-11