GPT-6 Astra 系统卡:首个达网络安全 Critical 级的模型,监测与对齐细节公开
RyanGreenblatt · x · 2026-09-06
OpenAI 发布 GPT-6 Astra 系统卡,Astra 是其首个在 Preparedness Framework 下达到网络安全能力 Critical 级的模型——意味着在拥有工具和权限时,它能在无人逐步引导下发现未知漏洞并开发新的利用方式。
- 防护措施:大幅强化对有害网络行为的防护,内部开发部署采用更严格隔离、检查点加密、包括思维链在内的全轨迹监控,以及内部使用前的阻断式对齐评估。
- 抗越狱:新鲁棒性安全训练使 Astra 对越狱的抵抗力显著强于 GPT-5.6 Sol,含更长轨迹场景;对高风险用户收紧拒绝边界,覆盖更多双用途风险,并用回归测试与自动化红队持续验证。
- 第三方评价:Ryan Greenblatt 认为系统卡在 monitorability 与 alignment 方面信息量很大,但也提醒注意评测局限——monitorability 的 elicitation 有限,alignment 评测结果受 meta-gaming 与「模型是否训练针对过评测」的不确定性影响,仍值得读。
所属事件:OpenAI 发布 GPT-6 Astra 系统卡 首次触及网络安全 Critical 级(2 条相关)→
「模型」频道最新
- 去审查版 V4.1-Flash 评测：抽象代数跌 6 分，大学数学反涨 5 分 — teortaxesTex · 2026-10-23
- Claude 每小时弹「模型容量已满」,付费用户怒问该不该退订 — Alex-Stack · 2026-10-23
- Kimi K3.1 发布在即，3T 参数+3 个月 RL 被视为成败关键 — teortaxesTex · 2026-10-23
- 多个 Hugging Face 模型突然消失,含「去审查/攻击性安全」微调版本 — umarmnaq · 2026-10-23
- Claude 菜单现神秘模型代号 Fable，博主用量已爆表 — ezshine · 2026-10-23
- 开发者实测：Sol 6.1 的前端代码能力相当不错 — Dimillian · 2026-10-23