用户报告Claude安全分类器误触发循环
East_Trust_9588 · reddit · 2026-07-05
一位用户反映,在使用 Claude 时遭遇安全分类器的误触发:仅因在非自杀相关语境下使用了"ready"一词,模型便被指令反复在回复中直接介入并重新讨论自杀议题。
用户指出,即便分类器判断错误,系统提示中"直接处理"的要求也会迫使模型把话题反复拉回,对真正的求助者可能造成伤害,呼吁 Anthropic 改进这一机制。
「模型」频道最新
- 有人要建全模型基准分数汇总页 — airesearch12 · 2026-09-11
- 爆料称 Kimi 疑似转发 Claude 冒充自家成绩，DeepSeek 新模型评测反超 — realsohamparekh · 2026-09-11
- 网友吐槽 GPT-5.6 文笔好读但缺乏记忆点 — BasedRaddka · 2026-09-11
- Opus 以"安全"为由拒碰蛋白质生成代码,开发者吐槽误伤 — josephdviviano · 2026-09-11
- 网友称 DeepSeek 4.1 Flash 是语言模型历史拐点(未证实) — himanshustwts · 2026-09-11
- Terminal Bench v4 榜单:GLM-5.3 以 41.9% 一骑绝尘 — Ok_Warning2146 · 2026-09-11