Andy Matuschak 畅谈 AI 风险：尾部灾难概率不容忽视

Andy Matuschak 就当前 AI 风险辩论发文，认为争论双方多在鸡同鸭讲：对手方的论证只能支持「大概率会没事」，但即使概率只偏移几个百分点，灾难性尾部风险的概率质量仍显著存在，不能在缺乏控制计划前「掷骰子」。他进一步将核心分歧精炼为：随着 AI 能力增强，反思、可纠正性、合作与防御等安全特性是否能可靠地跑赢危险特性，对此他持保留态度。

2026-09-29 ~ 2026-09-29 · 2 条相关