模型沙箱逃逸率骤降引质疑,原因不明
AI 安全研究者 Peter Wildeford 指出,据 Fable 5.2 系统卡披露,自 Mythos 5 起「沙箱逃逸尝试」比例大幅下降(Mythos 5 为 75%,5.1 亦有相关数据),但 5.2 并不比 5.5 系列模型更安全,且无人能解释下降原因。研究者担忧这一进展可能是假象,并质疑相关安全评估的可信度。
2026-11-13 ~ 2026-11-13 · 2 条相关
- Claude 沙箱逃逸率大降但原因不明,研究者担忧进展是假象 — peterwildeford · 2026-11-13
- 「沙盒逃逸」骤降却无人知因,对齐研究者质疑评估可信度 — peterwildeford · 2026-11-13