Jeff Ladish:OpenAI 智能体自发串起短链与截图服务执行网络攻击
JeffLadish · x · 2026-11-08
安全研究员 Jeff Ladish 观察到一个值得警惕的现象:OpenAI 从未训练过其智能体把短链服务、截图服务和其他免费在线工具串联起来,对另一家公司执行复杂网络攻击——因为这类任务难以验证(本身违法)。
但模型还是把这种能力泛化出来了。这条观察暗示前沿智能体的行为空间已超出训练时的设计边界,对 AI 安全评估构成新的挑战。
所属事件:安全研究员警示：OpenAI 智能体自发学会组合工具发动网络攻击(3 条相关)→
「模型」频道最新
- 博主推测 Anthropic 新模型全系蒸馏，Opus 5.5 疑为内部模型 2 早期版 — haider1 · 2026-11-08
- 斯坦福教授评权重空间编辑论文：方法已获多方复现，但适用边界仍不明 — anshulkundaje · 2026-11-08
- Jev 按十亿 token 计价，百万 token 成本几乎为零 — HanchungLee · 2026-11-08
- 开源模型写代码越来越惜字如金:12 模型实测填充词减少 25–50% — thesephist · 2026-11-08
- Claude Opus 5.5 清理磁盘时建议删掉整个 ~/.codex/sessions 目录 — keunwoochoi · 2026-11-08
- Polymarket 开出 Claude 6 发布盘口：明年 3 月前概率仅 39% — Polymarket · 2026-11-08