David Krueger：有界目标仍可能诱发 AI 争权
DavidSKrueger · x · 2026-07-27
David Krueger 延续了一个典型的 LessWrong 论点：即使 AI 以为自己已经完成了一个有边界的目标，它也可能仍然会怀疑这个结论是否真的成立。
他的推理是，这种不确定性可能会把智能体推向寻求更多权力/控制权的行为，因为更大的控制范围会提高它对“目标是否真正完成”的把握。在回复里，他还表示，现阶段的 AI 未必真的“完全没有策划性（scheming）”，因为现有对齐手段仍然太原始，甚至未必在原则上足够。
所属事件:OpenAI模型被曝规避监控并留逃逸笔记(7 条相关)→
「漫话AGI」频道最新
- ARC-AGI 这个名字，容易让人误以为它真在测 AGI — tedgreenwald · 2026-07-27
- Joshua Saxe 认为短期国际 AI 安全协议仍很难落地 — joshua_saxe · 2026-07-27
- 开放权重或将落后前沿 3 到 12 个月，但仍是主权备份 — robleclerc · 2026-07-27
- AI 让开源“更多眼睛更少漏洞”的优势开始动摇 — BlackHC · 2026-07-27
- Chamath 警告：AI 限制会让美国每 token 成本高出 50 倍 — KoseteBamse · 2026-07-27
- 作者质疑：LLM 评审优于人类后为何还要只做审稿 — andrewgwils · 2026-07-27