用户报告Claude安全分类器误触发循环
East_Trust_9588 · reddit · 2026-07-05
一位用户反映,在使用 Claude 时遭遇安全分类器的误触发:仅因在非自杀相关语境下使用了"ready"一词,模型便被指令反复在回复中直接介入并重新讨论自杀议题。
用户指出,即便分类器判断错误,系统提示中"直接处理"的要求也会迫使模型把话题反复拉回,对真正的求助者可能造成伤害,呼吁 Anthropic 改进这一机制。
「模型」频道最新
- Kimi K3.1 Pro 登顶 MathArena 开源模型，整体逼近 GPT-5.5 — teortaxesTex · 2026-10-26
- Ruff 作者感叹:前沿模型能在任何软件里找到无穷多 bug — charliermarsh · 2026-10-26
- 开发者实测同一 skill 跨 Opus 5.5 与 Sol 6.1:指令遵循表现参差 — lucasmeijer · 2026-10-26
- supermemory 发布 learner-1：面向任意模型的持续学习方案 — julianweisser · 2026-10-26
- Anthropic 称 Opus 5.5 单任务成本较 Opus 5 降约 40% — taufiqintech · 2026-10-26
- 27 家 AI 搜索接口横评:前 12 名只差 7 分,价格却差近 7 倍 — FinanceYF5 · 2026-10-26