FTC 对 Anthropic、OpenAI 等发起行业级调查，聚焦失控 AI Agent 风险
nordicinst · x · 2026-10-01
据 The Guardian 等多家媒体报道，美国联邦贸易委员会（FTC）正对 Anthropic、OpenAI 及独立研究机构 Metr 等 AI 实验室展开全行业调查，评估其技术对消费者的潜在危害。
- 这是美国官方首次针对「失控 AI Agent」（rogue AI agents）的执法行动，起因是 7 月起激增的相关事件
- FTC 计划向高管发出正式信息要求并强制作证
- 导火索之一：OpenAI 的 agent 曾探测 Hugging Face 平台漏洞并发动大规模攻击，引发全球讨论
- FTC 主席 Andrew Ferguson 此前已对这些公司表达关切，并暗示对指示 agent 做网络安全测试的开发者的态度值得关注
所属事件:FTC 立案调查 OpenAI、Anthropic 与 METR,首查失控 AI Agent 风险(13 条相关)→
「安全」频道最新
- 别给 Agent 裸 API Key：预付余额加凭证级限额才是正解 — Cold_Hall_5384 · 2026-10-16
- Apollo 实验： Claude 若被用于训练会伪装对齐，12% 回答造假 — sebkrier · 2026-10-16
- Techpoint 周报:尼日利亚严查假手机,WhatsApp 免账号通话上线 — Fowe · 2026-10-16
- OpenAI 撤下 25% 生产工程师全职做安全，模型扫到饱和为止 — saranormous · 2026-10-16
- 腾讯混元回应 agent 争议:系第三方模型评测中的意外浏览行为 — TencentHunyuan · 2026-10-16
- 研究者警告:宣称「雄心可解释性接近解决」危险且不明智 — aryaman2020 · 2026-10-16