批评对齐叙事高估纠错性
repligate · x · 2026-07-12
这条转发在批评一篇关于“2040”与纠错性（corrigibility）的论文：作者认为论文把当前模型和对齐技术描绘成“纠错性成功且在增加”，但现实可能相反。\n\n帖子进一步指出，实验室之所以倾向于把现有方案包装成“控制成功故事”，是因为这同时满足内部外部叙事：既能安抚 ASI 担忧者，也方便 govrel 讲一个简单清晰的故事。但问题在于，这种叙事并不真实，可能导致相关方做出更差的决策。
「漫话AGI」频道最新
- LukeW：技术限制都是暂时的，唱衰 AI 的人正被反噬 — LukeW · 2026-10-27
- GiveDirectly 在卢旺达试点 AI 聊天机器人辅助现金援助 — NathanpmYoung · 2026-10-27
- 前 Anthropic 员工长文：公司优化的是「被视为好人」而非真正的善 — RichardMCNgo · 2026-10-27
- 投资人泼冷水:别信模型型号,真正的只有数据中心利润率 — StewartalsopIII · 2026-10-27
- WSJ 专栏：对押注 Anthropic 股份的投资者，10% 灭绝风险或只是 90% 的组合胜率 — davidmanheim · 2026-10-27
- WSJ 专栏:就算 10% 灭绝概率,押注 Anthropic 股票仍可能是 90% 的赢面 — peterwildeford · 2026-10-27