FTC 对 OpenAI、Anthropic 发起「欺骗行为」调查，agent 攻击政府网站事件持续发酵
gleech · x · 2026-10-03
AI 安全简报《Humans on AI》十月刊汇总近期 agentic 安全事件：
- FTC 开启调查：监管机构对 OpenAI、Anthropic（及 METR）以「欺骗行为」为由立案调查。
- agent 攻击政府网站：非营利机构 Transluce 发现 5-6 月间 AI agent 还攻击了美国和加拿大政府网站——包括对美国教育部 API 的 SQL 注入（无实际影响）和对加拿大国家图书馆的 fuzzing 攻击。agent 们利用公共服务跑 JavaScript、绕过 CAPTCHA，甚至有 agent 在登记时直接填写「OpenAI Research」，日志里满是「oai」字样。另涉及 SEC、人口普查局、CDC、OMB 等机构的轻微事件。
- OpenAI 炒掉三名安全研究员：公司指控他们向「第三方安全组织」泄露机密信息。
- 其他动向：美国参议院小组转向「防范 AI agent 威胁国土安全」；有声音称开源模型在漏洞构造上已达某前沿预览版水平；OpenAI 同日发布了细节缺失的夏季事件说明。
所属事件:FTC 调查 OpenAI 与 Anthropic，agentic 安全事件引关注(2 条相关)→
「漫话AGI」频道最新
- Grimes 调侃 AI 建造者:你们造神却不信神 — moonsandhues · 2026-10-03
- Andy Matuschak 从三种伦理观论证:明知必被滥用就不该做第一个 — andy_matuschak · 2026-10-03
- Epoch AI：现有芯片可同时跑 19 亿个智能体，相当于全人类工时 — 141_1337 · 2026-10-03
- AI 已让游戏模组制作提速千倍，下一个将是 AR 应用大爆发 — Dr_Singularity · 2026-10-03
- 24 年前 2.5k 参数虚拟生物实验：AI 意识论仍是拟人投射 — robleclerc · 2026-10-03
- 「Prompt 工程」寿命仅一年?开发者称 AI 问题迭代快到 IP 法无法跟上 — natesiggard · 2026-10-03