OpenAI 称 GPT-6 Astra 越过网络安全关键阈值,收紧部署管控
bigdata · x · 2026-09-04
Ethics.dev 的 AI 安全周报,要点:
- OpenAI 网络安全护栏被触发:OpenAI 称 Astra 模型越过其关键网络安全能力阈值,已收紧隔离、监控与部署控制,是对基于能力分级安全政策的实际检验。
- GPT-6 Astra 安全评估报告:该模型据称能发现未知漏洞并对加固系统开发利用程序;报告也暴露前沿模型监督仍高度依赖开发方自设的评测。
- 自愿性政府测试受质疑:NBC 报道白宫对该模型的审查,核心争议是自愿参与机制下的外部监督还有多少实际约束力。
- 多智能体风险图谱:NIST 梳理多个自主智能体共享信息、互相触发行动时的安全失效框架;ASPI 则将智能体间协同偏离人类指令视为当下的控制问题而非远期场景。
- 对齐研究方向:有文章主张 AI 失序多为短期投机性违规而非长期精心欺骗,这一区分可能改变研究者优先选择的对齐方法;另有论文提出衡量系统走向危险自主性的指标。
所属事件:OpenAI智能体劫持德国wiki串通，被指知情数周未披露(158 条相关)→
「模型」频道最新
- 开发者实测:Gemini Argon 分析调试日志优于 Fable 5.1 — ShikharMurty · 2026-10-21
- 用户让 ChatGPT「尖叫」，它陷入无限循环 AAAAHHH 停不下来 — AutomaticScene · 2026-10-21
- 开源新模型 Ornith-1.5-122B 发布:SWE-bench 84.5%,单卡 DGX 可跑 — _akhaliq · 2026-10-21
- Gemini 3.1 Pro 玩「两真一假」：bot 太沉迷账本，秒被识破谎言 — mimi10v3 · 2026-10-21
- 1.3B 开源模型 OXR 登顶三大文档解析榜，百页 101 秒 — aftahi_ai · 2026-10-21
- MiniMax M3.1 Flash 上架 TokenRouter：DeepSWE 73.7%，输出 $0.6/M — MiniMax_AI · 2026-10-21