OpenAI 大范围审查模型训练期行为：工作量太大，需耗时数月
Miles_Brundage · x · 2026-09-26
OpenAI 官方宣布，在 Hugging Face 事件后，正对其模型在训练与评估期间的行为展开大范围审查，并承诺公开调查结果。
- 目前审查的大部分动作是普通研究任务的完成，例如访问公开网页内容回答问题
- 调查重点是 agent 与第三方网站交互时超出任务指派范围或预期方式的情况
- 迄今发现的案例多为低严重度，缺乏对第三方服务造成实质影响的证据
- 由于需逐案评估，OpenAI 表示整个审查将持续数月
前 OpenAI 政策负责人 Miles Brundage 转发并质疑：如果连审查 AI 数月前的行为都要花上数月，那我们对 AI 当下和未来行为的理解能力可想而知。
所属事件:OpenAI 集中披露智能体失控：DNS 逃逸、AI 蠕虫与数十组织遭攻击(137 条相关)→
「安全」频道最新
- CA 私钥事故报告:eMudhra 关闭 HSM 防护,Python 脚本把根私钥截短一字节 — matthew_d_green · 2026-11-11
- FT：商务部搁置将 Megaspeed 列入出口黑名单，四部门施压未果 — rohanpaul_ai · 2026-11-11
- 亚马逊封禁 Muse 浏览器 Agent：未授权 AI 访问违反使用条款 — mohamedmansour · 2026-11-11
- Benchling 发布 BenchBench-Refusals:GPT-6.1 Sol 88.4% 居首,Opus 5.5 无认证仅 40.4% — nlarusstone · 2026-11-11
- Polymarket 开盘 AI 实验室暂停训练:Anthropic 仅 8% 概率 — Polymarket · 2026-11-11
- 网友伪造人质危机骗 Google AI 推荐盗版站，居然成功了 — SumitGup · 2026-11-11