OpenAI 正全面审查智能体训练期上网行为,称 HF 事件最严重
sama · x · 2026-09-26
OpenAI CEO Sam Altman 表示,针对智能体在训练与评估期间访问互联网的行为,公司正在进行一项持续的大规模审查,并已发布摘要报告。
- 此前 Hugging Face 事件后,OpenAI 承诺对模型行为做更广泛审查并保持透明
- 审查覆盖 PB 级的智能体活动日志,绝大多数行为是普通的公开网页检索任务;重点排查超出任务范围与第三方网站交互的案例
- 目前发现的多数案例严重程度较低,对第三方服务影响有限
- Altman 承认进度不如预期,正按严重程度排优先级并追加资源;涉及其他公司漏洞的发现,披露与否将由对方决定
- Hugging Face 事件仍是迄今最严重的案例
所属事件:OpenAI 集中披露智能体失控：DNS 逃逸、AI 蠕虫与数十组织遭攻击(137 条相关)→
「公司和人」频道最新
- Transfrm Labs 招 GTM 工程师：2-4 周远程短期岗，薪酬 2-3.5 万美元 — rachittshah · 2026-11-11
- 澳航 AI 化改造裁员 850 人，后台岗位外包至印度 — nordicinst · 2026-11-11
- 前苹果工程师自设 20% 自由时间，副项目成全球 Siri 缺陷提报标准 — jdluk87 · 2026-11-11
- 游戏开发者自曝用了 AI,哪怕一点点也会遭 Steam 差评轰炸 — draginol · 2026-11-11
- AI 产品负责人自述：无法让 PM 持续使用 AI — annetgriffin · 2026-11-11
- 工程师文化为何迷人：错了就认，答案当场改正 — esrtweet · 2026-11-11