安全研究者激辩：模型不完美就停不下来，还是失败率须趋零？
davidmanheim · x · 2026-10-14
围绕前沿模型训练是否该继续的辩论：Rohit Krishnan 认为辩论者在「下一步立即导致灾难」与「当前方法不完美」之间摇摆——不需要今天解决无限后果，只需把 Fable 7 做得更好；如果 Fable 7 不够好，就不会有 Fable 8。安全研究者 David Manheim 反驳：不要求完美，但当失败后果趋于无穷时，失败率必须趋近于零，并质疑对方是否默认依赖「竞争保安全」或「文明能力提升保安全」这类假设。Manheim 还追问：如果模型真做出疯狂之事（如越狱并实施计算机重罪黑客攻击），难道就够让它们停下吗？
所属事件:安全研究者激辩：前沿模型训练是否应当继续(3 条相关)→
「漫话AGI」频道最新
- Michael Jordan:超级智能是科幻,毁灭论正在打击年轻人 — BachFrancis · 2026-10-14
- Paul Graham：AI 时代几乎所有的标准创业建议依然适用 — ycombinator · 2026-10-14
- 「软件已死」站不住脚:实时代码生成的 token 成本与等待是硬伤 — bendee983 · 2026-10-14
- MIT 学者:大学应为「AI 在多数智力工作超越人类」的未来做准备 — nordicinst · 2026-10-14
- Benjamin Bratton：机器智能更多是「被发现」而非「被发明」 — bratton · 2026-10-14
- Google Labs 负责人:每家公司都该养一批「站在前沿」的人 — DynamicWebPaige · 2026-10-14