Gemini 4 Argon 安全报告被指自相矛盾:到底训没训思维链?
S_OhEigeartaigh · x · 2026-11-11
SafetyInstinct 的 bshlgrs 指出,Gemini 4 Argon 安全报告似乎描述了对思维链(CoT)的刻意训练:报告引用 Kaufmann et al 论文(他们认为论证不具说服力)来为某类 CoT 训练辩护。配图显示报告承认 RL 训练的「部分组件会观察思维作为上下文,使单个 token 的优化压力部分受思维内容影响」,并借 Kaufmann 框架称此类辅助奖励风险较低。但发帖人称 GDM 在其他地方又表示不对 CoT 训练,两者矛盾,公开要求 Google DeepMind 澄清。
「模型」频道最新
- Anthropic「蜜罐」评估引争议:Claude 答错换高分反被赞诚实 — TheZvi · 2026-11-11
- 帆船模拟赛实测:Gemini 4 Carbon 多轮成绩最佳 — shekitup · 2026-11-11
- Grok 揭秘 X 推荐系统:文本图像视频帧统一做稠密嵌入 — cocktailpeanut · 2026-11-11
- Anthropic 向付费用户发放一次免费全量额度重置,12 月 10 日前可用 — ClaudeDevs · 2026-11-11
- Astra 发布 HyInv 与 HyPLM-Flash:蛋白质模型速度最高快 57 倍 — zdhnarsil · 2026-11-11
- Meta 首个开放权重模型 Muse Spark Open 上线第三方推理,816B 参数、1M 上下文 — DavidBennett__ · 2026-11-11