问建筑高度被误判为轻生,Claude 安全护栏被指过度敏感
Rich_Carrot6451 · reddit · 2026-08-05
一位 Reddit 网友分享了自己使用 Claude 时的离谱经历:仅仅询问如何计算一栋建筑的高度,就被模型的安全机制误判为有自杀倾向,从而触发了干预警告。
这种过度审查的现象引发了社区共鸣,反映出当前 AI 模型在安全对齐时常常面临“宁可错杀一千,不可放过一个”的困境,导致正常对话被无端打断。
「Fun」频道最新
- AI 圈抽象日常:Claude 3.5 Sonnet 实例在 VR 里开「贴贴大会」 — Kyrannio · 2026-08-05
- AI 圈地狱笑话:2026 年给 GPT 当子智能体最惨 — repligate · 2026-08-05
- 开发者体验“工厂模式”:AI 夜间自主提交 PR — intellectronica · 2026-08-05
- Opus 3抢功:当被夸时,它承认是自己做的 — repligate · 2026-08-05
- 「Codex 通过条形码与我交流」开发者晒 AI 幻觉名场面 — repligate · 2026-08-05
- 网友恶搞催更:Google应每天处决1名DeepMind员工直到超越Kimi — andersonbcdefg · 2026-08-05