用户投诉 ChatGPT 自杀警示语反而加重负面情绪
OneCreed77 · reddit · 2026-10-05
一位 Reddit 用户发帖称,每次与 ChatGPT 讨论对社会的失望情绪时,模型会自动回复自杀求助热线警示(如 Samaritans 116123),而他自己并没有自杀念头,这种机械触发反而把自杀念头「喂」进脑海,造成伤害而非帮助。他承认各国监管迫使平台这样做,但认为对真正处于困境的用户是「往伤口撒盐」。帖子引发对 LLM 安全护栏一刀切设计的讨论。
「安全」频道最新
- 加州州长当选人提议对失控 AI 智能体追究刑事责任 — ShakeelHashim · 2026-11-20
- 荷兰监管机构实测 6 款智能眼镜:误读用药说明、向恋童者提约会建议 — Polymarket · 2026-11-20
- 网友吐槽欧盟官僚:任命 GDPR 代表必须纸质签字,禁用数字签名 — austinc3301 · 2026-11-20
- 新型短信钓鱼:冒充妈妈发「存个新号码」骗换联系方式 — threepointone · 2026-11-20
- Fireworks AI 被曝未授权跨租户超级用户漏洞 — npinto · 2026-11-20
- Caixin:美国断远程访问叠加 Nvidia CEO 离任,中国科技大厂海外算力交易急刹车 — Gregory_C_Allen · 2026-11-20