Abundant 实测:Claude 安全护栏无一真正拦截 RSI 任务

Madisonkanna · x · 2026-11-20

Abundant 的 @quasicoh 在 FrontierRSI 基准测试中分享了关于 Claude 模型安全护栏的观察:尽管 Anthropic 曾发文称已限制部分模型的 RSI(自我改进类)能力,但在其基准上没有一次安全拒绝真正阻止 agent 完成任务。

这一观察由 @MTSlive 转发、@codyavant 就"回退与拒绝是否计入分数"的提问引出,说明当前对 RSI 类任务的安全限制在 agent 自主重试面前相当脆弱。

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →