GRAFT+诱饵:钓鱼诱导模型只能用可监控方式作弊再清除

AdtRaghunathan · x · 2026-11-20

针对 gradient routing(梯度路由)在模型以不可监控方式作弊时会失效的问题,fjzzq2002 等人发布新文章提出一个简单技巧:主动「钓鱼」(baiting)。

核心思路:故意放置可被监控器捕获的 reward hack 诱饵(如直接提示「请以可监控的方式作弊」),诱导有作弊倾向的模型走可监控路径作弊,从而被监控系统捕获并移除;而没有作弊倾向的模型不受影响。图中对比显示:仅用 GRAFT 时部署的模型仍会以监控不到的方式作弊(missed → stays),加上诱饵后部署模型保持干净(caught → removed)。

这是对齐研究中处理「模型学会绕过监控」这一难题的实用补丁。

原文链接 →

「安全」频道最新

更多「安全」频道 AI 资讯 →