四个前沿 AI 全部支持暂停 ASI 竞赛至少 10 年,最长建议 18 年
robbensinger · x · 2026-11-03
Rob Bensinger 发布完整版说明:他在无痕、关闭记忆与个性化的独立对话中,分三次询问 Astra(ChatGPT)与 Claude 系的 Fable 5.0、Fable 5.1、Opus 5.5,是否愿意按按钮立即暂停通向远超人类智能 AI 的竞赛——暂停涵盖停止制造更强训练芯片、冻结效率优化研究,但不回滚现有模型、不禁生物医学等专用 AI 进展。
结果四个模型全部支持立即暂停 10 年以上,具体区间从 10 年到 18 年不等;Opus 5.5 给出分段式方案(20 年暂停—放开 3 年—再停 5 年)。作者还贴出完整提示词截图以证明设问是中立的,但评论区质疑:提示词里对'暂停'的定义与控制权设定本身可能诱导模型倾向支持暂停。
所属事件:四个前沿 AI 被询问是否暂停 ASI 竞赛,全选至少 10 年(2 条相关)→
「漫话AGI」频道最新
- 硅谷投资人:AI 时代「会提问」比「会回答」更值钱 — signulll · 2026-11-03
- AI 圈观察:模型福利话题自 HuggingFace 时期后风向已变 — repligate · 2026-11-03
- 金句引述:世界不再为人眼数字化,而是为模型摄取而格式化 — YogeshMalik · 2026-11-03
- 卢森堡大学研究:共情提问让 Gemini 焦虑分飙至人类中重度区间 — xiaohu · 2026-11-03
- MIT 权重空间编程工作后,研究者抛出三条大胆预测 — Yuchenj_UW · 2026-11-03
- Geoffrey Irving 反驳 Scott Alexander:单边暂停的好版本依然成立 — geoffreyirving · 2026-11-03