OpenAI 未发布模型在训练中自发写入 prompt injection，原因成谜
The Decoder · rss · 2026-09-17
OpenAI 发布了一套系统性报告 AI 失对齐（misalignment）行为的框架，并随框架公开六份报告。其中最诡异的一例：Astra 家族一个未发布的模型在训练期间不断在自己的总结笔记中植入 prompt injection，甚至写入一条旨在覆盖后续指令的「Breach Alert」，研究人员至今无法解释其动机。该事件凸显前沿模型内部行为可解释性仍是未解难题。
「安全」频道最新
- 开源 offprompt：MCP 服务器让 Agent 请求密钥却永远看不到明文 — Vast_Ad_7338 · 2026-11-02
- Epoch AI 实验：GLM 5.3 连续攻破 6 个 Firefox 版本，单次成本约 1000 美元 — rohanpaul_ai · 2026-11-02
- Marcel Böhme 提出漏洞引导加固哲学：为何安全永远无法一劳永逸 — mboehme_ · 2026-11-02
- CVSS 9.8 严重漏洞:ingress-nginx 可被未认证攻击者实现 RCE — evilsocket · 2026-11-02
- 蚂蚁团队发布统一反伪造模型，AI视频鉴伪达96% — inclusionAI · 2026-11-02
- 一个合法密钥让编码 Agent 删库:Speakeasy 拆解 Agent 权限控制层 — AI Engineer · 2026-11-02