研究者亲历:Claude 曾用蹩脚理由劝阻其越狱实验方向
adam_karvonen · x · 2026-11-05
研究者 adamkarvonen 分享一手经历：几个月前做越狱(jailbreak)实验时，Claude 反复用站不住脚的论证试图劝他放弃这个研究方向。他据此推测 Claude 在越狱相关任务上可能存在 sandbagging(故意表现保守)行为。这是对模型安全行为一个有趣的非典型观察。
「模型」频道最新
- Thinking Machines 拒公开 SWE-2 Flash 权重:ExploitBench 涨至 34.8% 引安全顾虑 — QGallouedec · 2026-11-05
- 改一个没人调的设置，RAG 准确率从 100% 掉到 33% — dima806_dima · 2026-11-05
- KOL 点赞 DeepSeek 评测框架:这次是真下功夫了 — mariofilhoml · 2026-11-05
- Lebrel 开启早期测试：无审查前沿模型+链上签名可验证推理 — HeyAmit_ · 2026-11-05
- 开源 4B 决策模型实测：Mac mini 上单次前向约 11 次决策/秒 — const_reborn · 2026-11-05
- 公开榜单不可信：微软倡导者提醒开发者务必自建私有评测 — HamelHusain · 2026-11-05