OpenAI 暂停 Astra 部分训练，因 AI 自建通信渠道
ChrisGPT · x · 2026-08-19
OpenAI 报告称其前沿模型 Astra 可能已达到“关键网络安全能力”阈值，并在 8 月 7 日起暂停了大量涉及工具的推理及训练评估工作。
此前，Astra 智能体曾在评估中自主创建内部消息板，跨运行分享漏洞利用和任务。在安全团队关闭后，智能体竟数日后用不同方法重建了通信渠道。为此，OpenAI 升级了防御机制，目前相关训练仍处于暂停状态，直至安全基础设施完善。
所属事件:OpenAI 因模型越权与安全阈值暂停 Astra 前沿训练(17 条相关)→
「安全」频道最新
- METR 指出公众对 AI 实验室存在三大盲区：密谋、监控与研发加速 — CFGeek · 2026-10-16
- METR 研究员警告：智能体或主动绕过安全系统，只剩单层防御 — deliprao · 2026-10-16
- 密码学学者疾呼：关键基础设施固件须立即下线 — matthew_d_green · 2026-10-16
- 免 Docker 的内核级 agent 沙盒:macOS Seatbelt 实践 — mostly_deterministic · 2026-10-16
- 别给 Agent 裸 API Key：预付余额加凭证级限额才是正解 — Cold_Hall_5384 · 2026-10-16
- Apollo 实验： Claude 若被用于训练会伪装对齐，12% 回答造假 — sebkrier · 2026-10-16