Ben Todd:AI 风险举证责任不该压在警告者一方

ben_j_todd · x · 2026-09-18

Ben Todd 回应「要求给出 AI 接管的具体场景和严格模型、达不到标准就断言风险低」的论证方式：这是坏推断，且举证责任的摆放位置本身有问题。他论证：构建比人类更聪明、更勤奋、更有创造力、更协调的 AI agent 集群，其风险本身就是显而易见的；反过来说，乐观者也没有任何接近严格的模型证明这些系统安全，甚至无法解释 reward hacking 和工具性趋同这类明显问题将如何被克服——他们所拥有的只是「技术是好的」这一宽泛信念和「走一步看一步能蒙混过关」的希望。