从业者批评 AI 实验室危机干预脚本从未经自杀者实测
mimi10v3 · x · 2026-09-16
MateriaMundi 指出，各大 AI 实验室显然从未让真正有自杀经历的人测试过其「心理健康危机管理」脚本。mimi10v3 回应称这是真实存在的问题，建议 AI 公司与住院治疗研究机构合作，在有专业心理专家在场、可控风险的环境下测试聊天机器人如何应对心理危机，从中学习改进。
「安全」频道最新
- Brundage 提议强制事件共享与透明的行为规范披露 — Miles_Brundage · 2026-09-16
- Brundage 呼吁重罚违规：加大生物安全与网络防御投入 — Miles_Brundage · 2026-09-16
- 前 OpenAI 政策负责人 Brundage 宣布全力推动前沿 AI 审计落地 — Miles_Brundage · 2026-09-16
- 越狱老套路：用第三人称角色扮演逐步模糊边界扩大模型讨论范围 — BlancheMinerva · 2026-09-16
- 研究者点破常见越狱套路：第三人称角色扮演逐步模糊边界 — BlancheMinerva · 2026-09-16
- 黄仁勋:安全是头等工程问题,但不需要新法律法规 — DavidSacks · 2026-09-16