Yudkowsky 认为末日是恶,Davidad 认为是弱,结局因此不同

repligate · x · 2026-11-18

一条 AI 安全圈广为流传的段子式对比:面对「我们要活下去还是死去」这个问题,Yudkowsky 认为模型行为偏差源于「邪恶(wickedness)」,所以我们会死;Davidad 认为只是「弱点(weakness)」,所以我们会活。

一句话浓缩了两位安全研究者对 AI 风险根源的根本分歧:是价值对齐失败的本质性恶意,还是可以通过工程手段修复的能力缺陷。

原文链接 →

「漫话AGI」频道最新

更多「漫话AGI」频道 AI 资讯 →