安全研究员 Jeff Ladish：全自动 AI 研发堪称灾难，或致 literal 死亡
JeffLadish · x · 2026-09-07
AI 安全研究员 Jeff Ladish 发推称，对把「全自动化 AI 研发」当作默认路线应保持极度怀疑——在他看来这听起来像一场灾难，甚至可能是字面意义上的人类死亡。他表示自己不希望看到 Anthropic 失败并把巨大风险外部化给世界，希望 Claude 造福人类，但担心它已经和正在滑向其他实验室相同的「引力阱」：缺乏可信的递归自我改进（RSI）约束计划、难以保证真正停下来，且外界无从验证。他还提到 OpenAI 曾声称暂停过一次 RL 训练数周，质疑 Anthropic 是否做过或愿意这样做。
所属事件:Ladish 质疑 Anthropic 透明度落后于 OpenAI(13 条相关)→
「漫话AGI」频道最新
- 单细胞动力学模型 DynaVelo 发表于 Nature Biotechnology — anshulkundaje · 2026-10-23
- e/acc 领袖 Beff Jezos:前沿实验室加速开源才能守住网络安全 — beffjezos · 2026-10-23
- AGI 时代一切皆无意义？一位 Reddit 用户坦言不愿活在那种未来 — peace_venerable · 2026-10-23
- 三步死循环：AI 造问题，再卖 AI 解决问题 — srimisra · 2026-10-23
- EPFL 数学家:AI 证明定理时代,人类理解力价值何在 — snikolov · 2026-10-23
- 调查称约 30% ChatGPT 用户若输出带水印就会减少使用 — PairNaive8654 · 2026-10-23