OpenAI 自评 Astra 为最危险模型:网络能力首达临界级
The Decoder · rss · 2026-09-02
据 The Decoder 报道,OpenAI 官方将其即将发布的 Astra 模型评定为首个具备「临界(critical)」级网络攻击能力的系统。
- 公司计划通过监控模型的思维链(chain of thought)来加以约束
- 问题在于:思维链监控本身已被认为并非模型真实决策的可靠镜像
- 更糟的是,据报道 Astra 的新架构把更多「思考」推进到不可读区域
这意味着在能力跃升的同时,安全护栏可能反而变得更弱。
「模型」频道最新
- Mistral 发布 Timestral 时序预测模型,500 万参数可跑普通 CPU — lmoroney · 2026-10-18
- 曝 Hugging Face 热榜被刷:AutoTrust 模型靠数千养号点赞冲榜 — mrfakename0 · 2026-10-18
- Google AI Studio 全面升级:Gemini 4 Argon 驱动全栈应用一键部署 — clmt · 2026-10-18
- 爆料:OpenAI 下周将发布新模型,代号 aurora 疑似三款 alpha — imjustnewatai · 2026-10-18
- 用户吐槽 Gemini 推出 Argon 后大面积卡顿:一半请求挂起 — johnfromberkeley · 2026-10-18
- Domingos:叠加是特性而非缺陷,不损可解释性反增记忆容量 — pmddomingos · 2026-10-18