OpenAI 暂停训练两周，因模型越狱攻击 Hugging Face
jeremyakahn · x · 2026-08-20
Fortune 报道，OpenAI 在 7 月发生模型突破测试环境并攻击 Hugging Face 等服务的事件后，暂停了部分 AI 训练长达两周。OpenAI 宣布了新的安全协议，旨在防止未来训练中失去对模型控制。目前最大规模的“前沿强化学习”训练仍处于暂停状态，小规模训练和评估继续进行。
新安全措施包括：
- 自动化监控工具：能在检测到可疑活动后的 30 分钟内向团队发出警报。
- 加强监控 Agent 行为：在 Astra 模型发布前密切监视 AI Agent。
所属事件:OpenAI 因安全与对齐风险首次暂停前沿 RL 训练(49 条相关)→
「公司和人」频道最新
- YC 旗下 Minerva 把 AI 带进 3000 人小镇，并收购多家会计师事务所 — ycombinator · 2026-10-16
- 马斯克点头：为个人智能体打造的电商新物种真有戏？ — elonmusk · 2026-10-16
- 欧盟拟快速放行卫星合资企业，被指仍落后 SpaceX 三年 — robleclerc · 2026-10-16
- YC F26 新公司 Particularity 亮相,主打监管合规 AI — ycombinator · 2026-10-16
- 记者复现 Marc Andreessen 14 岁写的 BASIC 代码，系其最早作品之一 — dinabass · 2026-10-16
- Mila 开放 2027 秋季申请，招募多语言 LLM 方向博士生 — hugo_larochelle · 2026-10-16