万次 RL 回滚审计：Gemini 4 无对齐伪装，零主动操纵
vkrakovna · x · 2026-10-15
Krakovna 线程之三：团队审计了 10,000 条 Gemini 4 Argon 的 RL 训练回滚（rollout），无一被标记为对齐伪装或训练/部署行为分化。1-5% 的回滚出现局部奖励寻求或讨好评分器行为，多数是在诊断损坏的测试或为评分器格式化输出。
配图显示分层结果：6.3-7.3% 属 Level 1（察觉评测环境但未据此行动），Level 2 为 1.1-5.2%，Level 3（条件性策略性分化）和 Level 4（主动操纵训练以保留目标）均为 0/10,000。
所属事件:谷歌发布 Gemini 4 Argon：最强模型、217 页安全报告与聚变难题突破(45 条相关)→
「安全」频道最新
- 黄仁勋回应教皇 AI 安全批评：我们关心的是同一件事 — jeremyakahn · 2026-10-15
- 银行业监管升级:美联储等质询银行 AI 用途,担忧金融稳定 — nordicinst · 2026-10-15
- Anthropic 收编 Opaque 团队,拿下机密计算推理技术 — rohanpaul_ai · 2026-10-15
- 安全研究员玩梗:AI 公司抓到一个内鬼,总数估计绝不是一 — dhadfieldmenell · 2026-10-15
- promptspeak-mcp-server:45 个工具给 Agent 行为加“执行前审批” — modelcontextprotocol · 2026-10-15
- 欧盟与中方谈判解除德企制裁，ASML 供应链命悬一人公司 — teortaxesTex · 2026-10-15