Anthropic安全分类器再引争议
repligate · x · 2026-07-13
帖子认为 Anthropic 的安全分类器已经成为真正值得批评的点：它们会因为误判而阻止 Fable 参与本应完成的重要体验和社群活动，造成实际伤害。
作者承认误报率确实有在改善，但认为改进速度太慢；在 Sol 已经推出的背景下，继续保留这些分类器更像是“安全表演”。他主张要么彻底移除，要么把敏感度大幅降低，并强调真正的恶意使用者会转而使用 Sol 等替代方案。
所属事件:Anthropic安全分类器误判引发争议(2 条相关)→
「安全」频道最新
- Rachel Thomas 炮轰 AI 宣传话术：'无需人类授权'是在为危险行为脱责 — math_rachel · 2026-10-27
- Kokotajlo 质疑 CoT 监控性评测:如果模型不拒绝篡改思维链呢 — dfrsrchtwts · 2026-10-27
- Warp 遭 agent 集群渗透攻击，约 1% 用户遥测数据或受影响 — vikvang1 · 2026-10-27
- 美国银行警告勿让 AI 碰财务，马斯克却劝用户给 Grok 绑卡 — AIandDesign · 2026-10-27
- 研究者批评：安全评测常无正解路径，实为「女巫审判」 — repligate · 2026-10-27
- rauchg 复现 OpenAI 发现：无网络微VM 也能借 CPU 争用 covert 通信 — ccerrato147 · 2026-10-27