David Manheim 争论：AI 公司不像桥梁工程那样有安全系数与验证

davidmanheim · x · 2026-11-08

这是 David Manheim 与 @AndyXAndersen、@ramez 关于 AI 安全实践的争论。Manheim 引用 Linch Zhang 的类比：土木工程师能清晰论证桥梁为何安全——符合政府设计规范、数值分析、多种失效模式检查，诚实的工程师还能说明安全论证的局限；航空工程师更进一步使用形式化验证。而 Manheim 认为关键区别在于：传统工程靠安全系数和「未遂事故」学习改进，AI 公司却没有这样做，且他反驳对方「出了错自然会学到教训」的看法，认为在缺乏上述工程安全机制的情况下，这种学习并不会自动发生。