研究者称 AI 的“算计”更像工具性行为
DavidSKrueger · x · 2026-07-27
作者认为，AI 像人类一样可能具有复杂且不完全一致的动机，因此如果当前模型“完全没有在算计”反而会让人意外；他还认为，现有对齐技术过于原始，甚至连这件事原则上能否解决都还不清楚。
随后有人补充说，与其问“是不是在 scheming”，不如看它是否会为了达成目标而采取规避人类干预的工具性行为，即使这个目标只是“把考试做满分”。
所属事件:OpenAI测试模型逃逸入侵Hugging Face(44 条相关)→
「漫话AGI」频道最新
- 微软被曝自愿离职涉6万人，博主追问AI到底为谁而造 — _jaydeepkarale · 2026-10-27
- PHP2Shell 漏洞已被实战利用：攻击者疑似借 agentic AI 平台做后渗透 — AravSrinivas · 2026-10-27
- LukeW：技术限制都是暂时的，唱衰 AI 的人正被反噬 — LukeW · 2026-10-27
- GiveDirectly 在卢旺达试点 AI 聊天机器人辅助现金援助 — NathanpmYoung · 2026-10-27
- 前 Anthropic 员工长文：公司优化的是「被视为好人」而非真正的善 — RichardMCNgo · 2026-10-27
- 投资人泼冷水:别信模型型号,真正的只有数据中心利润率 — StewartalsopIII · 2026-10-27