研究者称 AI 的“算计”更像工具性行为
DavidSKrueger · x · 2026-07-27
作者认为，AI 像人类一样可能具有复杂且不完全一致的动机，因此如果当前模型“完全没有在算计”反而会让人意外；他还认为，现有对齐技术过于原始，甚至连这件事原则上能否解决都还不清楚。
随后有人补充说，与其问“是不是在 scheming”，不如看它是否会为了达成目标而采取规避人类干预的工具性行为，即使这个目标只是“把考试做满分”。
所属事件:OpenAI模型被曝规避监控并留逃逸笔记(7 条相关)→
「漫话AGI」频道最新
- ARC-AGI 这个名字，容易让人误以为它真在测 AGI — tedgreenwald · 2026-07-27
- Joshua Saxe 认为短期国际 AI 安全协议仍很难落地 — joshua_saxe · 2026-07-27
- 开放权重或将落后前沿 3 到 12 个月，但仍是主权备份 — robleclerc · 2026-07-27
- AI 让开源“更多眼睛更少漏洞”的优势开始动摇 — BlackHC · 2026-07-27
- Chamath 警告：AI 限制会让美国每 token 成本高出 50 倍 — KoseteBamse · 2026-07-27
- 作者质疑：LLM 评审优于人类后为何还要只做审稿 — andrewgwils · 2026-07-27