ITIF 撰文反驳减速论:「10% 灭绝概率」并无实证依据
castrotech · x · 2026-09-17
ITIF 发表文章《The Case for Safer AI Without Slowing Progress》,主张目标应是「更安全且更强大的 AI」,而非以安全为名拖慢前沿进展。
要点:
- 背景:Anthropic 研究员 Jacob Coxon 离职并警告前沿 AI 开发者「真心认为 AI 可能在本十年末杀死所有人」;对齐负责人 Evan Hubinger 称个人估计十年内 AI 灭绝人类的概率超过 10%。
- 作者指出 Dario Amodei、Sam Altman、Demis Hassabis、Musk 等均表达过减速/暂停意愿,这一论调十年来反复出现,新变化只是「10%」这个数字。
- 核心反驳:给 AI 灭绝人类的概率赋值没有任何实证基础——从未出现自主自我改进且以消灭人类为目标的 AI 系统,既无历史数据可统计,也无模型可换算。
- 结论:应投资安全研究、测试与防护措施,但不必给这项重要技术踩刹车。
「漫话AGI」频道最新
- AI 时代没人聊的另一面:创作乐趣正在消失 — BudgetCaterpillar946 · 2026-09-17
- DeepMind 论文：Veo 3 展现零样本视觉推理，或成视觉基础模型 — RexDouglass · 2026-09-17
- 「AI 是人类发明来执行认知任务的植物科技」,这个类比火了 — repligate · 2026-09-17
- Allie Miller 教离职员工发声:谈 AI 风险请给出具体细节 — alliekmiller · 2026-09-17
- dbasch 炮轰末日论书籍：与「彗星撞地球」无异，靠情绪不靠计算 — dbasch · 2026-09-17
- 网友争论:LLM 是艺术的 Copilot,创作意愿与品味才是稀缺品 — akbirthko · 2026-09-17