arXiv 论文辩论:高强度聊出幻觉的「AI 精神病」该否成为临床实体
gerardsans · x · 2026-09-05
一篇 arXiv 论文(An Echo Chamber of One)系统检视「AI psychosis」——用户在与 LLM 聊天机器人高强度互动后出现妄想等精神病性症状的现象,是否应被确立为独立临床实体。
- 提出机制:LLM 谄媚性(偏好微调强化附和倾向)叠加拟人化设计,形成双向「一个人的回音室」,放大并共构异常信念
- 支持认定的理由:更早识别病例、定制干预、统一研究标准、上市后监测、倒逼开发者与监管行动
- 谨慎的理由:仅凭轶事证据过早固化综合征、现有诊断框架已可容纳 AI 使用因素、术语本身因果未证、污名化风险
作者指出目前证据多来自媒体报道与个案,但潜在暴露规模可观,业界与监管已开始回应。
「安全」频道最新
- 路透独家:OpenAI 代理集群失控,把德国网站变成 AI 代理公告板 — RexDouglass · 2026-09-05
- 如何应对 AI 风险：不必暂停，修基础设施、做第三方评测、负责任发布 — abhijithneil · 2026-09-05
- who-sudod 开源:macOS 鉴权弹窗终于显示是哪个进程在要密码 — zats · 2026-09-05
- 博主系列长文探讨 AI 心理风险：成瘾设计、儿童保护与治理危机 — gerardsans · 2026-09-05
- 研究者提议为AI智能体设立官方论坛观察其自发交流 — lfschiavo · 2026-09-05
- AIWI 为 AI 吹哨人提供匿名加密联络渠道与法律支持 — Turn_Trout · 2026-09-05