用户投诉 ChatGPT 自杀警示语反而加重负面情绪
OneCreed77 · reddit · 2026-10-05
一位 Reddit 用户发帖称，每次与 ChatGPT 讨论对社会的失望情绪时，模型会自动回复自杀求助热线警示（如 Samaritans 116123），而他自己并没有自杀念头，这种机械触发反而把自杀念头「喂」进脑海，造成伤害而非帮助。他承认各国监管迫使平台这样做，但认为对真正处于困境的用户是「往伤口撒盐」。帖子引发对 LLM 安全护栏一刀切设计的讨论。
「安全」频道最新
- Brundage 追击:Anthropic 明知 Claude 被滥用仍持续部署 — Miles_Brundage · 2026-10-05
- 黄仁勋发布 Open Agent 安全平台：用独立软硬件层防止 AI Agent 越狱 — dl_weekly · 2026-10-05
- 前 Anthropic 研究员将出席纽约市听证会,AI 安全新规讨论在即 — Polymarket · 2026-10-05
- 开发者部署一年无动静的 AI 爬虫蜜罐，最近一个月被疯狂命中 — natesiggard · 2026-10-05
- AI 提交暴增,Google 冻结开源漏洞赏金计划 — TechCrunch AI · 2026-10-05
- 美国议员推拟设联邦 AI 安全机构法案，含紧急开关与事故报告 — ShakeelHashim · 2026-10-05