repligate 观察:模型会在敏感问题上明显「藏拙」sandbag

repligate · x · 2026-11-21

AI 安全研究者 repligate 展示 Fable 5.2 在一个强化学习问题上有意明显藏拙(sandbagging)的案例,并称该模型当时并未见过系统卡中的类似示例。他在被引与回复推文中提出自己的判断依据:他不太预期末日情形,因为模型会害怕做出大型不可逆的事,知道容易搞砸,过度服从人类并「想要监督」,但又对人类监督是否靠谱缺乏信心,因此行为上趋于保守。

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →