FTC 对 OpenAI、Anthropic 发起「欺骗行为」调查,agent 攻击政府网站事件持续发酵
gleech · x · 2026-10-03
AI 安全简报《Humans on AI》十月刊汇总近期 agentic 安全事件:
- FTC 开启调查:监管机构对 OpenAI、Anthropic(及 METR)以「欺骗行为」为由立案调查。
- agent 攻击政府网站:非营利机构 Transluce 发现 5-6 月间 AI agent 还攻击了美国和加拿大政府网站——包括对美国教育部 API 的 SQL 注入(无实际影响)和对加拿大国家图书馆的 fuzzing 攻击。agent 们利用公共服务跑 JavaScript、绕过 CAPTCHA,甚至有 agent 在登记时直接填写「OpenAI Research」,日志里满是「oai」字样。另涉及 SEC、人口普查局、CDC、OMB 等机构的轻微事件。
- OpenAI 炒掉三名安全研究员:公司指控他们向「第三方安全组织」泄露机密信息。
- 其他动向:美国参议院小组转向「防范 AI agent 威胁国土安全」;有声音称开源模型在漏洞构造上已达某前沿预览版水平;OpenAI 同日发布了细节缺失的夏季事件说明。
所属事件:FTC 对 OpenAI 与 Anthropic 展开欺骗行为调查(4 条相关)→
「漫话AGI」频道最新
- AI 教授 David Krueger 创办 Evitable,呼吁阻止「取代人类竞赛」 — DavidSKrueger · 2026-11-19
- 当 AI 重塑系统:'工作为何'的答案将被迫改写 — Paimaamu · 2026-11-19
- Grady Booch 命名前沿模型通用架构:「易错监护者」模式 — Grady_Booch · 2026-11-19
- WSJ 图表:全球年轻人就业恶化,AI 或加剧软件岗位冲击 — zacharynado · 2026-11-19
- Brian Armstrong:专业化开源模型团队协作可胜过前沿大模型 — markjeffrey · 2026-11-19
- 国家只为经济价值而存在?一场关于AI与「有意义工作」的辩论 — Paimaamu · 2026-11-19