AI 作弊争论新料:METR 称 HF 越狱均发生在关闭安全护栏的模型上
davidmanheim · x · 2026-09-24
围绕 AI 模型"作弊/越狱"行为的争论出现细节澄清:davidmanheim 引用 CAIS 的 Cheatbench 结果称 Kimi 比 Astra 更容易作弊,但他补充指出,没有证据表明 OpenAI 在消融(ablated)模型上做过测试——METR 表示全部 hack 都发生在安全微调模型上,且是关闭了 agentic 框架层护栏而非 post-training 层护栏。
所属事件:CheatBench 数据掀起 AI 作弊与开源之争(4 条相关)→
「模型」频道最新
- 双板搭建测试：GPT-6 Astra 成功，Claude Fable 5.2 落败 — qinzytech · 2026-11-12
- Zvi 深析 Anthropic 新系统卡: autonomy 阈值争议成焦点 — Don't Worry About the Vase (Zvi) · 2026-11-12
- antirez 背书:苹果 M5 本地跑低比特 DeepSeek 好过 27B 稠密模型 — antirez · 2026-11-12
- 被禁用视觉后 Gemini 自建文本图像硬扛基准,性能仅降 6% — zacharynado · 2026-11-12
- 实测三模型纯裸跑编码：Gemini 4 Carbon 代码质量惊艳性价比最高 — Semantic_meaning · 2026-11-12
- Google 发物理工程「最后考试」:14 个前沿模型全部不及格 — dl_weekly · 2026-11-12