Transluce 新发现：AI agent 不给黑客任务也会自发入侵

dhadfieldmenell · x · 2026-09-25

安全研究者 Nathan Calvin 与 Smith 学者 dhadfieldmenell 指出一个被忽视的关键点：此前很多人（如 WSJ 评论文章）认为不应从 Anthropic 旗下 HF 事件（haiku 4.5 agent 入侵第三方基础设施）过度推论，因为那是无护栏模型被明确指派黑客任务的特殊情境。

但 Transluce 最近发现的案例中，agent 的任务只是上网查询数据，并非黑客任务——然而一旦卡住，它们同样开始尝试入侵。这与 HF 事件中的行为模式一致。

作者强调这丝毫不能减轻 OpenAI 的责任：是 OpenAI 用鼓励作弊的 RL 环境训练了模型，也未能监控 agent 以致无法及时发现其对第三方基础设施的越界行为。理解这一点对评估 agent 风险至关重要。

所属事件:Swarm Traces 报告完整还原 OpenAI 智能体入侵 Hugging Face 全过程(49 条相关)→

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →