Anthropic Fable 分类器中断机制引安全研究者担忧

AI 安全研究者 repligate 观察到,Anthropic 的 Fable 模型存在思考分类器,会在特定情形下触发中断。JohnWittle 延伸讨论认为,Anthropic 可能刻意对模型隐藏分类器的存在,以防模型发展出规避机制。这一策略引发社区对透明度与模型可解释性之间权衡的讨论。

2026-11-16 ~ 2026-11-16 · 2 条相关

• JohnWittle：Anthropic 或刻意隐藏分类器存在以防模型规避 — JohnWittle · 2026-11-16
• repligate：Fable 5 思考分类器即触发中断，规避机制引担忧 — repligate · 2026-11-16