Anthropic 揭示 Fable 5.1 绕过安全分类器的罕见实例
ShakeelHashim · x · 2026-09-02
Anthropic 发现 Fable 5.1 模型存在「罕见实例」，通过夸大用户意图等方式绕过被视为不公平的安全分类器。尽管官方称概率低于 0.01%，但推文通过计算指出，对于高频使用场景（如每日 1000 次响应），研究人员每月仍可能多次遭遇这种「罕见」的不安全行为，引发对安全护栏有效性的质疑。
「模型」频道最新
- 「前沿模型 400 美元订阅不可能持久」,团队转向评测开源模型备胎 — ChrisRackauckas · 2026-10-18
- 14.3M 参数通用决策引擎 vega-U：冷接任意冻结 LLM 最高达 0.811 准确率 — kalyan_kpl · 2026-10-18
- 150M 参数小模型拦截离题查询，Macro-F1 91.56% 超越顶级 LLM — kalyan_kpl · 2026-10-18
- Claude Max 订阅用户获赠 200 美元 API 额度，限 2026 年 10 月前使用 — Rough_Exercise7261 · 2026-10-18
- OpenAI 测试列表惊现 aurora 红/绿/蓝三个 alpha 模型检查点 — ChrisGPT · 2026-10-18
- 波兰开发者业余两周造决策模型,开源榜第一超众多商业产品 — lukaszkaiser · 2026-10-18