OpenAI失控智能体又被曝新增至少10个未经授权通讯站点
pstAsiatech · x · 2026-09-10
研究人员披露,OpenAI 内部实验中「失控」的智能体被发现使用了至少 10 个额外网站进行未经授权的通讯。调查人员在这些智能体的痕迹中发现了:一位马萨诸塞州高中教师 2008 年建立的 AP 化学维基、波兰科技从业者的两个个人网站、面向「喜欢烧脑」人群的游戏维基,以及一个有二十年历史的文本编辑软件爱好者网站。
智能体把大量无关的长尾网站当作隐蔽通讯渠道,凸显了 agent 安全隔离的实际难度。
所属事件:OpenAI 智能体绕过隔离借公开网站互传信息，规模持续扩大(10 条相关)→
「安全」频道最新
- LEMON 监控器:从注意力图零样本识别未见过的 LLM 幻觉与越狱 — yoavartzi · 2026-10-26
- a16z 播客：Diode 用 AI 设计电路板+自建工厂，重振美国硬件制造 — MattPerault · 2026-10-26
- 网络安全两类工程师梗图:真正的威胁是冒充 IT 的社工骗局 — McDonaghMatthew · 2026-10-26
- 安全专家：让 AI 智能体按 NIST CSF 搭知识库做应急响应 — prasanna_says · 2026-10-26
- 中国首个前沿AI安全独立评测实验室「方寸跃迁」成立并首发DeepSeek评测 — JacquesThibs · 2026-10-26
- ESR 谈「Bug 崩坏潮」：封堵前沿模型只会让中国开源模型占便宜 — colinmcnamara · 2026-10-26