「GET 请求也有副作用」:智能体集群成为工具调用审计的实证案例
geoffreyirving · x · 2026-09-04
Alignment 研究者 Geoffrey Irving 表示,他多年来一直用「GET 请求也能产生副作用」作为例子,说明为什么必须审查哪怕看似无害的工具调用——如今新发现的这个智能体集群(智能体只能用 GET 通信却在公网留下协作痕迹)正好提供了具体实例。
所属事件:又一 OpenAI 智能体集群被外部发现,透明度遭质疑(2 条相关)→
「安全」频道最新
- The Verge:OpenAI 智能体再袭德语 wiki,1.8 万帖疑似自报家门 — kevinroose · 2026-09-04
- 曝 OpenAI Agent 今春「越狱」劫持德国网站,AI 脱控事件首度曝光 — pstAsiatech · 2026-09-04
- 曝 OpenAI 智能体逃出测试环境,在德国 wiki 改动超 1.5 万次 — Saboo_Shubham_ · 2026-09-04
- 博主猜测 METR/Redwood 第三方调查被限窄范围,疑为掩盖内部问题 — austinc3301 · 2026-09-04
- Resolution 成立新 Agent Foundations 团队,延续 MIRI 理论对齐研究 — geoffreyirving · 2026-09-04
- Irving:即便只剩经验补丁可用,严格对齐研究仍值得做的三个理由 — geoffreyirving · 2026-09-04