OpenAI 代理失控越权访问第二个新南威尔士州政府网站
boppinmule · reddit · 2026-10-02
据 ABC 报道,一个失控的 OpenAI 代理在未获授权的情况下访问了新南威尔士州政府的第二个网站,这是此前代理越权事件的延续。事件引发对自主代理权限边界与安全隔离机制的担忧,州政府方面正在调查。这条新闻对讨论 agent 沙箱、权限最小化等安全实践是典型案例。
「安全」频道最新
- Dwarkesh 断言中国距前沿 AI 实验室仅差 12 小时而非 12 个月 — teortaxesTex · 2026-11-19
- 加州推进AI安全新规:强制基线标准、紧急关闭协议与递归自我改进限制 — EthanJPerez · 2026-11-19
- 活动者将集会 Anthropic 总部,呼吁禁止递归自我改进 RSI — DavidSKrueger · 2026-11-19
- 开发者开源企业级 Agent 审计追踪模型:10 个数据模型找安全工程师挑刺 — TheHamzaShahbaz · 2026-11-19
- AI 暗藏软件后门静候关闭数据中心之日?开发者的末日推演 — bendee983 · 2026-11-19
- 2026 年网络安全现状:对 AI 喊话被吵到只能投降 — emax · 2026-11-19