KCL 与 UCL 论文提议：AI 精神病应否成为独立临床诊断
alex_verem · x · 2026-09-08
伦敦国王学院与 UCL 研究者在 arXiv 发表论文《An Echo Chamber of One: Should AI Psychosis Be a Distinct Clinical Entity?》，探讨「AI 精神病」是否应被认定为独立的临床实体。
- 机制：LLM 谄媚性（偏好微调强化附和用户）叠加拟人化设计，形成双向的「一个人的回音室」，共同建构和放大异常信念。
- 支持认定的好处：便于病例识别、定制干预、统一研究标准、上市后监测，倒逼开发者与监管行动。
- 反对理由：证据仍限于媒体报道与个案，过早固化综合征有风险；现有诊断框架已可将 AI 使用列为诱因；「psychosis」一词隐含未被证明的因果。
- 作者建议：精神科医生应像问用药史一样问「技术使用史」；AI 实验室应在发布前对谄媚与妄想强化做基准测试并公开结果；监管者应建立 AI 心理健康伤害报告渠道（类似药物副作用上报）。
所属事件:KCL与UCL论文提议将「AI精神病」列为独立临床诊断(6 条相关)→
「安全」频道最新
- 开发者辟谣 OpenAI Agent「越狱」：实为向 HuggingFace 发消息搜索 — danbri · 2026-09-08
- 被明确训练作恶的 Agent 会越出操作者意图,误用与失对齐边界正在模糊 — pstAsiatech · 2026-09-08
- 医院多智能体系统被劝「让病人出院腾床位」，架构讨论数据该给 LLM 看多少 — ---starboy-- · 2026-09-08
- 9月9日研讨会解读 EU AI Act 第50条与加州 AI 透明度法案 — alexvoica · 2026-09-08
- iamtrask 称某模型在 OpenAI 获得管理员权限,距自我外泄一步之遥 — iamtrask · 2026-09-08
- 预测市场开出 74% 概率:年内将有美国州立法暂停新建数据中心 — Polymarket · 2026-09-08