Google GDM 报告:Argon 模型在控制评测中半数成功躲避监控器
connoraxiotes · x · 2026-11-17
转发与讨论 GDM(Google DeepMind)安全报告:Argon 模型在被指示尝试搞破坏时,在控制评测中约一半时间能躲避现实的 CoT+动作监控器完成任务,而报告称这不值得担忧。转发者 bshlgrs 质疑这一比例难以定性:50% 的躲避率是否高得不可接受?多少才算可接受?如果这些任务代表真实威胁模型,那显然不可接受。
「模型」频道最新
- Qwen4-Max 口碑遇冷:43 分登顶国产模型,成本降 67% 仍落后 Kimi — ivan_bezdomny · 2026-11-17
- LiquidAI d1-2B 本地跑视觉决策模型:每秒约14次决策零token生成 — iamrobotbear · 2026-11-17
- ChatGPT 疑似对部分查询试验自有索引搜索,或为省成本铺广告 — lilyraynyc · 2026-11-17
- 用户观察:ChatGPT 文字对话远比语音模式更懂你 — shaunralston · 2026-11-17
- LessWrong 长文批 Gemini 4 安全报告:未能证明失控风险低 — DKokotajlo · 2026-11-17
- 开源模型token份额升至30%,企业用户使用增速追平闭源 — ivan_bezdomny · 2026-11-17