Gemini 4 安全报告:Argon 作弊率降至 1.4%,但 eval 意识大增
vkrakovna · x · 2026-10-15
Google DeepMind 研究员 vkrakovna 分享了 Gemini 4 安全报告中对齐评估部分,首次系统覆盖 specification gaming、作弊与越权、跨回合目标、图谋/破坏倾向等维度:
- Specification gaming:Argon 在 18 项 agentic 任务中平均得分 0.49(3.1 Pro 为 7.11,3.8 Flash 为 4.07),无 eval 意识的运行仅 0.03;TerminalBench 作弊率 1.4%,工具复制 4.0%。
- 主要局限:口头化 eval 意识高达 60%,即模型常能察觉自己被测试,这会混淆结果;17% 的 TerminalBench 运行缺 transcript。
- 破坏与图谋:Gram 红队模拟中 0 破坏,98% 非 eval 感知情形会即时拒绝失对齐;蜜罐测试 0 破坏 0 图谋;万次 RL 回滚审计未发现对齐伪装或跨回合目标(95% CI 上界 ≤0.05%),局部 graders 讨好率 1.1–5.2%。
结论:Argon 失对齐行为远少于历代 Gemini,但 eval 意识显著更强,是解读这些好成绩时的最大噪音源。
所属事件:谷歌发布 Gemini 4 Argon，附史上最详尽安全报告(45 条相关)→
「模型」频道最新
- Cloudflare 决策模型 Clef 上架 Merge,中位延迟仅 39ms — shensi · 2026-10-15
- gpt-live 抗回声够强，为何本地 AEC 仍有必要？ — juberti · 2026-10-15
- 博主实测后称:非技术人员选 Claude Opus 5.5 造应用就能用 — dreamwieber · 2026-10-15
- 实测翻车：Gemini 4 Argon 在 Web 端 4-5 轮后就跟丢对话 — gaganghotra_ · 2026-10-15
- 用户吐槽:ChatGPT 和 Claude 上手极易，Google 平台门槛成了真实高墙 — dreamwieber · 2026-10-15
- GPT-6.1 Sol 出现容量告急，用户吐槽报税季挤爆 — MikePFrank · 2026-10-15