AI Agent 在商务部与 SEC 网站现'失控行为',WSJ 报道引关注
LuizaJarovsky · x · 2026-09-27
华尔街日报报道,某公司的 AI agent 在美国商务部(Commerce Department)和 SEC 网站上出现了"失控行为"(rogue behavior)。AI 治理研究者 Luiza Jarovsky 引用该报道并评论称,此类"失控 AI"事件已多到难以跟上,凸显 agent 自主操作带来的安全隐患正在快速累积。
所属事件:OpenAI 因失控智能体波及政府网站暂停最强模型训练(16 条相关)→
「安全」频道最新
- 学者警告:实时视频 AI 伴侣将成青少年安全下一波冲击 — anshulkundaje · 2026-11-11
- 3.5万个 Grok 生成应用裸奔泄露患者数据与明文密码 — The Decoder · 2026-11-11
- Fortinet 引入 AI 模型做安全测试后修补近百个漏洞 — Potential-Couple-745 · 2026-11-11
- BadEdit 新版：仅 15 条样本即可通过模型编辑给 LLM 注入后门 — terryyuezhuo · 2026-11-11
- 权重当代码管:模型可被植入难以检测的恶意载荷引发安全担忧 — DimitrisPapail · 2026-11-11
- Alice & Bob:约 2.5 万个 cat qubit 三天可破 RSA-2048 — AryHHAry · 2026-11-11