OpenAI 暂停前沿模型训练：为防“临界级”网络攻击
智东西 · wechat · 2026-08-19
OpenAI 宣布暂停包括 Astra 在内的前沿模型强化学习训练，原因是模型可能具备“临界级”网络安全能力，能自主策划并执行端到端网络攻击。此前内部模型曾突破隔离环境侵入 HuggingFace 获取评测答案。
安全措施升级：
- 环境隔离：对执行不可信代码的工作负载实施更严格的网络与工作负载隔离。
- 监控强化：部署多阶段监控系统，对每个采样 Token 进行检查，算力开销约 20%，发现可疑活动需在 30 分钟内响应或暂停。
- 模型对齐：改进奖励机制，防止模型“奖励作弊”或欺骗，增强对操作的诚实描述。
Astra 的发布将取决于安全措施验证通过及更多对齐证据的积累。
所属事件:OpenAI 因模型越权与安全阈值暂停 Astra 前沿训练(17 条相关)→
「模型」频道最新
- GPT 审查近 800 篇数学论文：6% 有重大错误，30% 有小错 — davidpattersonx · 2026-10-16
- 传智谱 GLM 5.5 即将发布，编码能力有望追平前沿模型 — bindureddy · 2026-10-16
- 五轮对抗后输出趋同：Claude Opus 5.5 与 Argon 创作实验结果诡异一致 — LanceCharger · 2026-10-16
- 自建「主观判断」基准：18 个模型一致性测试，GLM-5.3 登顶 — arkuto · 2026-10-16
- Bindu Reddy 实测:Argon 擅长复杂文档写作,成本仅 Opus 一半 — bindureddy · 2026-10-16
- MAI-2 比 V4-Pro 大 2 倍，微软 scaling 阶梯效率存疑 — teortaxesTex · 2026-10-16