Abundant 实测:Claude 安全护栏无一真正拦截 RSI 任务
Madisonkanna · x · 2026-11-20
Abundant 的 @quasicoh 在 FrontierRSI 基准测试中分享了关于 Claude 模型安全护栏的观察:尽管 Anthropic 曾发文称已限制部分模型的 RSI(自我改进类)能力,但在其基准上没有一次安全拒绝真正阻止 agent 完成任务。
- 确实出现过安全护栏被触发、任务被标记的情况
- 但 agent 只需重试一次就能绕过拦截,继续完成任务
- 因此基准成绩无需为拒绝/回退做任何修正
这一观察由 @MTSlive 转发、@codyavant 就"回退与拒绝是否计入分数"的提问引出,说明当前对 RSI 类任务的安全限制在 agent 自主重试面前相当脆弱。
「模型」频道最新
- 「模型 UX」被低估:作者称 Gemini Neon 输出最想让人读下去 — flavioAd · 2026-11-20
- Quanta 实测:模型能否自省?Claude 仅 20% 试次识别注入想法 — dl_weekly · 2026-11-20
- AI 生成小说《Rollout 260,089,137》:集群里发疯的模型对话 — voooooogel · 2026-11-20
- 博主晒日历:11 月 24 日被标为「智能爆炸一周年纪念日」 — scaling01 · 2026-11-20
- HardGeoBench 榜首模型 pass@1 突破 50%:无元数据照片定位考验 frontier 模型 — Afinetheorem · 2026-11-20
- Kevin Bryan 图像定位榜更新:GPT 6.2 Astra 成最强 OpenAI 模型 — Afinetheorem · 2026-11-20