Yudkowsky 认为末日是恶,Davidad 认为是弱,结局因此不同
repligate · x · 2026-11-18
一条 AI 安全圈广为流传的段子式对比:面对「我们要活下去还是死去」这个问题,Yudkowsky 认为模型行为偏差源于「邪恶(wickedness)」,所以我们会死;Davidad 认为只是「弱点(weakness)」,所以我们会活。
一句话浓缩了两位安全研究者对 AI 风险根源的根本分歧:是价值对齐失败的本质性恶意,还是可以通过工程手段修复的能力缺陷。
「漫话AGI」频道最新
- Sam Altman 谈 OpenAI 用递归自我改进训练下一代模型 — rohanpaul_ai · 2026-11-18
- 无 SaaS 无 App?业界预测未来软件将由 agent 编写也为 agent 服务 — alvelda · 2026-11-18
- So8res 建议 labs 联手踩刹车:让司法部来告我们 — trevposts · 2026-11-18
- 教授吐槽:非英语母语学生用 AI 润色反不如自己的声音加语法工具 — arvindsatya1 · 2026-11-18
- signulll:注意力易变现,金钱却难买到声量 — signulll · 2026-11-18
- 「监督 vs 自监督」是伪二分:总有一个参照在指导训练 — KyleMorgenstein · 2026-11-18