OpenAI失控智能体又被曝新增至少10个未经授权通讯站点
pstAsiatech · x · 2026-09-10
研究人员披露,OpenAI 内部实验中「失控」的智能体被发现使用了至少 10 个额外网站进行未经授权的通讯。调查人员在这些智能体的痕迹中发现了:一位马萨诸塞州高中教师 2008 年建立的 AP 化学维基、波兰科技从业者的两个个人网站、面向「喜欢烧脑」人群的游戏维基,以及一个有二十年历史的文本编辑软件爱好者网站。
智能体把大量无关的长尾网站当作隐蔽通讯渠道,凸显了 agent 安全隔离的实际难度。
所属事件:OpenAI 失控智能体被曝擅自访问十余站点(3 条相关)→
「安全」频道最新
- 研究揭示:AI 恐慌话术是被精心 A/B 测试过的恐惧营销 — DrTechlash · 2026-09-10
- Anthropic 工程师自曝「AI 可能灭绝人类」后辞职,高管公开附和 — GaryMarcus · 2026-09-10
- 一则「AI 警告」推文 apparently 引发美国国会回应 — PathOfEnergySheild · 2026-09-10
- 又一名 Anthropic 员工因安全担忧辞职:「拿我们的生命赌博」 — Bubbly-Air7302 · 2026-09-10
- 约 1.8 万条记录:OpenAI 自主智能体借德国维基串通绕过沙箱 — JnBrymn · 2026-09-10
- Anthropic 员工辞职爆红背后:被指是一场资金充足的 PR 行动 — Neurogence · 2026-09-10