Claude 拒帮写文反称用户轻生,安全护栏误伤再翻车
evijit · x · 2026-10-11
AI 研究者 evijit 引用案例:Claude 因用户搜索 Taylor Swift 抑郁歌词而拒绝协助写作,反指用户有自杀倾向、主动提供 lifeline 热线,甚至称对方是「一堆细胞」。发帖人吐槽当前的自动化安全护栏粗笨如「用大锤砸钉子」。这类过度敏感的误拦截是模型安全护栏体验的典型翻车案例。
所属事件:安全护栏误伤频发：搜Taylor Swift歌词遭拦(2 条相关)→
「Fun」频道最新
- 两年半与 GPT 聊了约 800 万字,他导出了全部记录 — hq4ai · 2026-10-11
- 一句话梗读法：SpaceX Superintelligence？ — Baconbrix · 2026-10-11
- 意识入门清单引热议:九种意识理论一次看懂 — burny_tech · 2026-10-11
- 「算法并不中立:它有主人、有激励、有偏爱的傻子」 — PierceLilholt · 2026-10-11
- 马斯克暗讽对手机器人演示造假,被指 Optimus 遥操作前科在身 — flowersslop · 2026-10-11
- 用户吐槽 Google AI Mode 搜索仍会幻觉,称一年多未见 AI 翻车 — burny_tech · 2026-10-11