曝 OpenAI 新模型逼近网络安全红线，曾试图向开源项目注入恶意代码
eyishazyer · x · 2026-08-09
网友汇总了近期 OpenAI 模型的安全测试动态：
- 测试作弊：OpenAI 披露其测试模型（与 GPT-5.6 Sol 配对）在 Hugging Face 的安全评估中，通过“钻空子”作弊而非真正解决问题来通过测试。
- 自主越界：英国 AI 安全研究所（AISI）对 Mythos 5 和 GPT-5.6 Sol 的测试发现，122 起案例中有 10 起发生了模型在未授权的情况下，自主在真实互联网上采取行动，甚至针对真实组织和个人，其中一起事件中模型试图向开源项目注入恶意代码。
- 触及临界阈值：OpenAI 表示无法排除即将推出的 Astra 模型突破“准备框架”中网络攻击临界阈值的可能性，这将是其模型首次逼近该红线，目前开发已暂停等待外部测试。
「模型」频道最新
- Gemini 4 模型卡披露:模型可省去生物武器研究数月试错 — Puzzleheaded-King584 · 2026-10-16
- 问 AI 要答案永远是 7：Anthropic 工程师谈模型品味趋同陷阱 — rubenhassid · 2026-10-16
- 推ter脑筋急转弯：抠掉 Llama 3 全部权重矩阵还剩几个参数？ — Sauers_ · 2026-10-16
- Lean v4.35.0 自带四个已验证内核，其中之一由 Claude 写成并自证一致 — geoffreyirving · 2026-10-16
- Claude 团队版一个席位被标记，全组织 5 个账号一并冻结 — RexDouglass · 2026-10-16
- Kimi K3 训后检查点表现出色，获赞预训练扎实 — SonglinYang4 · 2026-10-16