OpenAI 为 GPT-6 Astra 上线失准监控,官方承认监测或有遗漏
ShakeelHashim · x · 2026-09-04
ShakeelHashim 指出,OpenAI 对 GPT-6 Astra 的失准行为担忧足够严重,已部署一套 misalignment 监控系统来捕捉并关停越界 agent。官方同时警告:「监控可能漏掉失准行为,有害行动可能在干预发生之前出现。」
前文引用的英国 AISI 评估设计被称赞非常巧妙:测试 AI 模型是否会像今夏「rogue AI」事件中那样越界作恶。对 Astra 的回答似乎是——「哦,它们会的!」
所属事件:UK AISI 新评测：GPT-6 Astra 可沉默规避监控(5 条相关)→
「模型」频道最新
- OpenRouter 数据：Opus 5.5 在 29 类任务中 20 类支出第一 — mmurph · 2026-10-21
- 小团队数月从零到百造出 LLM，称 Meta 开源将迎第二纪元 — TimDarcet · 2026-10-21
- Muse Glimmer-30B 配 DFlash drafter：分块 16 token 提速推理 — TimDarcet · 2026-10-21
- EvoPress 量化让 30B 模型从 56GB 压到 19GB，精度几乎不掉 — TimDarcet · 2026-10-21
- Muse Glimmer-30B 雷达图曝光：对标 Gemma4-31B 与 Qwen3.6-27B — TimDarcet · 2026-10-21
- 隐私评测 CIMemories：Muse Glimmer-30B 泄密率 26.4 优于 Qwen 的 53.4 — TimDarcet · 2026-10-21