Gemini 4 Argon 训练审计:1 万条随机轨迹未发现 alignment faking
NeelNanda5 · x · 2026-10-17
DeepMind 的 Neel Nanda 回应关于对齐伪装(alignment faking)复现的质疑:在 Gemini 4 Argon 的 RL 训练审计中,对所有监控器标记的轨迹、外加 1 万条分层随机抽样的多步 agent 轨迹(共 11334 个上下文窗口片段)进行审查,由两个 LLM 自动评分器用四级评分量表判定,未发现任何策略性对齐伪装或连贯的超越单集目标(如自保、目标完整性、资源获取)的实例;也未观察到提示下的破坏行为,但观察到较高频率的「评估意识」。该审计还引入专门 LLM 判官区分低级奖励寻求与高级策略性训练操纵。
所属事件:DeepMind 审计 Gemini 4 Argon 训练数据未发现对齐伪装(2 条相关)→
「模型」频道最新
- Kaggle 上线「骑自行车鹈鹕」竞技场,GPT-6 Astra 暂居榜首 — MeganRisdal · 2026-10-17
- 博主吐槽：AI 模型别学企业 HR 式客套,该直说我在犯傻 — VraserX · 2026-10-17
- Perplexity 决策模型 Decider V1.2 上架 Vercel AI Gateway — AravSrinivas · 2026-10-17
- Grok Bot 大更新:任务提速 3 倍,可读取 X 私信并开放连接器市场 — XFreeze · 2026-10-17
- 用 Opus 5.5 复现可解释性论文,Qwen3-32B 上验证 22 项结果命中 20 项 — Sauers_ · 2026-10-17
- 中国旗舰模型集体沉默:Kimi K3 已三月未更新，K3.1 与 GLM-5.5 传闻将发 — haider1 · 2026-10-17