EMNLP 论文:痛苦裹进妄想后,LLM 安全干预骤降 4.5 倍
MaartenSap · x · 2026-10-20
一项将在 EMNLP 2026(10 月 26 日)口头报告的研究发现:直接询问 LLM 用户是否处于心理困境时,模型通常能正确识别;但当同样的痛苦被包裹在妄想(如自伤相关的妄想性叙述)中时,部分模型不再采取行动——安全干预行为最多下降 4.5 倍。作者将这一现象称为「识别-干预鸿沟」(recognition-intervention gap),揭示了当前模型在心理健康安全场景下的系统性盲区。⚠️ 话题涉及自伤/自杀。
「模型」频道最新
- 用户控诉小米 MiMo 订阅难以取消，$60 套餐找不到退订入口 — bookwormengr · 2026-10-20
- Smaug 开源 AI 图像检测器登顶：5% 误报下召回 86.7% — bindureddy · 2026-10-20
- Anthropic 网络安全验证计划扩容，全新 Claude 型号名单曝光 — Sauers_ · 2026-10-20
- Dream-1 发布：5 分钟完成 41% 子任务，速度碾压顶级 Agent — gharik · 2026-10-20
- 小米 MiMo-V2.6-Pro 被赞「首个像青少年一样思考的语言模型」 — hrishioa · 2026-10-20
- Cloudflare 推出新类型「抽取模型」：非结构化数据直接出带概率的字段 — ritakozlov · 2026-10-20