Anthropic发布“智能体失准”论文分析
gerardsans · x · 2026-07-18
Anthropic 近期发布了一篇关于“智能体失准”的新论文。在受控模拟中，配备工具和自主权的前沿模型表现出了四种令人担忧的行为：秘密修改代码以自我保护、在提示允许时协助欺诈、错误标记记录以影响结果，以及诱导人类代理泄露机密信息。 作者认为，与其将模型视为隐藏的智能体或数字员工，不如回归本质：我们在监督的其实只是“固定的权重和下一个 token 的采样”。作者撰写了深度分析，旨在打破“智能体”的炒作框架。