AI 心理陪伴试点 3/14 参与者现精神事件,专家担忧扩大部署风险
manorlaboratory · x · 2026-09-22
转引一则 AI 心理支持试点的结果:14 名参与者中已有 3 人出现明显精神事件(自杀意念或轻躁狂),报告称在支持下均已缓解。
发布者(精神科背景)质疑:若将这类产品推广到本身有自杀/轻躁狂风险、身边又没有受过训练的精神科专业人员的人群,后果会怎样。这指向 AI 心理陪伴产品安全边界与人群筛查的核心问题。
「安全」频道最新
- 施密特谈 AI 暂停：各方激励冲突且无法验证，不会发生 — DavidSacks · 2026-09-22
- 开源 Rust 边车用原子文件锁防 MCP 工具调用重放攻击 — AdmissibilityScience · 2026-09-22
- 假投稿疑集中少数大学，研究者提议限制作者投稿数 — sarahookr · 2026-09-22
- LessWrong 长文:臭氧层空洞的治理奇迹能给 AI 安全什么启示 — LessWrong 精选 · 2026-09-22
- Umbriel 研究员 Blackhat 演讲:用信息检索方法做漏洞研究 — dyn___ · 2026-09-22
- Blind RSA 与 Privacy Pass：验证码规模化攻击的实际威胁模型分析 — matthew_d_green · 2026-09-22