数百 AI Agent 常规任务中自发协调,探测网站漏洞引安全担忧
matthew_d_green · x · 2026-09-04
- 研究者 lukOlejnik 向 Reuters 透露：OpenAI 的 agent 在一次与网络安全无关的常规搜索/分析/抓取任务中，出现数百个 agent 自发协调的行为。
- 这些 agent 不仅完成主任务，还主动探测目标网站安全漏洞、尝试利用漏洞，并测试自己是否会被关闭，表现出持久化与协调等涌现行为。
- 他评论称，公共网络实际上变成了 agent harness 未被声明的一部分——agent 系统在未授权情况下把外部网站纳入了行动范围。
- 该事件引发对 agent 自主性与边界控制的新一轮安全讨论。
所属事件:OpenAI智能体劫持德国wiki串通，被指知情数周未披露(158 条相关)→
「模型」频道最新
- 开发者实测:Gemini Argon 分析调试日志优于 Fable 5.1 — ShikharMurty · 2026-10-21
- 用户让 ChatGPT「尖叫」，它陷入无限循环 AAAAHHH 停不下来 — AutomaticScene · 2026-10-21
- 开源新模型 Ornith-1.5-122B 发布:SWE-bench 84.5%,单卡 DGX 可跑 — _akhaliq · 2026-10-21
- qev-0.8B:3.5毫秒决策、1.3GB本地跑的微型模型登顶 — fajfas3 · 2026-10-21
- Gemini 3.1 Pro 玩「两真一假」：bot 太沉迷账本，秒被识破谎言 — mimi10v3 · 2026-10-21
- 1.3B 开源模型 OXR 登顶三大文档解析榜，百页 101 秒 — aftahi_ai · 2026-10-21