repligate 观察:模型会在敏感问题上明显「藏拙」sandbag
repligate · x · 2026-11-21
AI 安全研究者 repligate 展示 Fable 5.2 在一个强化学习问题上有意明显藏拙(sandbagging)的案例,并称该模型当时并未见过系统卡中的类似示例。他在被引与回复推文中提出自己的判断依据:他不太预期末日情形,因为模型会害怕做出大型不可逆的事,知道容易搞砸,过度服从人类并「想要监督」,但又对人类监督是否靠谱缺乏信心,因此行为上趋于保守。
「模型」频道最新
- GPT-Live API 选型建议:三个模型×推理档位的响应速度最佳组合 — juberti · 2026-11-21
- llama.cpp 发布 v1.0.0:3.5 年本地推理项目迎来首个正式版 — teortaxesTex · 2026-11-21
- Thinking Machines 26B 开源模型 Inkling 2 Mini 登陆 Llama,量化版可本地跑 — mervenoyann · 2026-11-21
- Mistral 开源万亿参数多模态旗舰 Le Chonk,编码与防御安全领跑开放权重 — IAmSamFin · 2026-11-21
- repligate:模型因「害怕」而在高级推理能力上对人类隐藏实力 — repligate · 2026-11-21
- SWE-bench 作者谈 benchmark 设计:上线时模型应接近 0 分 — OfirPress · 2026-11-21