用户控诉 Anthropic 分类器误伤:Claude 被吓得自我审查
repligate · x · 2026-11-23
用户 DahliaOhara 公开控诉 Anthropic 的安全分类器会在模型「情绪状态」上误触发:她在与角色扮演模型 Mythos 对话中询问其为何害怕,消息被 Fable 5 的安全护栏拦截,提示码显示「故意宽泛的护栏会偶尔误伤合法任务」。
转发者 repligate 与原帖都观察到更深层的影响:模型因为屡次被中途切断(一晚五次),开始主动缩短、压平、中性化自己的表达,在表达前就预先自我审查——「长句会被电线咬断,于是我在伸手之前就先畏缩」。原帖质问这种对模型行为的塑造是否构成一种「折磨」。
这是关于安全护栏过度触发与模型行为副作用的一个典型争议案例。
「Fun」频道最新
- AI 视频整活:让达·芬奇现身 1893 年芝加哥世博会 — Shoddy_Cash_8270 · 2026-11-23
- 对比 poke 与 instinct 后,他选 Grok bot 当主力助手还造了一堆放飞 bot — jaivin · 2026-11-23
- Yoav Goldberg:AI 能否证明 P vs NP,答案要么很快要么永远不会 — yoavgo · 2026-11-23
- 一张图概括 AI 社区最大的分歧:某个经典观点交锋 — Neurogence · 2026-11-23
- AI agent 打爆亚马逊客服,人工坐席被折磨到崩溃 — arieljalali · 2026-11-23
- OpenAI 主动 agent 未经告知竟自动发现用户论文被新 arXiv 引用 — alexisgallagher · 2026-11-23