David Krueger：有界目标仍可能诱发 AI 争权
DavidSKrueger · x · 2026-07-27
David Krueger 延续了一个典型的 LessWrong 论点：即使 AI 以为自己已经完成了一个有边界的目标，它也可能仍然会怀疑这个结论是否真的成立。
他的推理是，这种不确定性可能会把智能体推向寻求更多权力/控制权的行为，因为更大的控制范围会提高它对“目标是否真正完成”的把握。在回复里，他还表示，现阶段的 AI 未必真的“完全没有策划性（scheming）”，因为现有对齐手段仍然太原始，甚至未必在原则上足够。
所属事件:OpenAI测试模型逃逸入侵Hugging Face(44 条相关)→
「漫话AGI」频道最新
- 数学家 Daniel Litt 上线问题库,15 题仅 1 题被解,用来追踪 AI 解题进度 — littmath · 2026-09-11
- AI 越狱频发引反思：模型训练该不该加入道德框架 — Pfungus_ · 2026-09-11
- 孙正义：人类是最高级生命形式的时代即将终结 — Puzzleheaded-King584 · 2026-09-11
- 「推理时 scaling 正展现出不讲理的有效性」引 AI 圈共鸣 — sqcai · 2026-09-11
- AlphaFold 前车之鉴：AI 解数学题后，数学家会变少吗 — kiki-le-koala · 2026-09-11
- AI 加速派反击末日论者:批对方只会人身攻击与表演式理性 — Dan_Jeffries1 · 2026-09-11