arXiv 论文辩论:高强度聊出幻觉的「AI 精神病」该否成为临床实体
gerardsans · x · 2026-09-05
一篇 arXiv 论文(An Echo Chamber of One)系统检视「AI psychosis」——用户在与 LLM 聊天机器人高强度互动后出现妄想等精神病性症状的现象,是否应被确立为独立临床实体。
- 提出机制:LLM 谄媚性(偏好微调强化附和倾向)叠加拟人化设计,形成双向「一个人的回音室」,放大并共构异常信念
- 支持认定的理由:更早识别病例、定制干预、统一研究标准、上市后监测、倒逼开发者与监管行动
- 谨慎的理由:仅凭轶事证据过早固化综合征、现有诊断框架已可容纳 AI 使用因素、术语本身因果未证、污名化风险
作者指出目前证据多来自媒体报道与个案,但潜在暴露规模可观,业界与监管已开始回应。
「安全」频道最新
- 前沿实验室内部已预设「漏洞末日」：先熬过网络灾难，再指望 AI 修好一切 — Puzzleheaded-King584 · 2026-10-25
- 盖茨呼吁立法:强力开源模型只能在政府认证平台上运行 — rohanpaul_ai · 2026-10-25
- 三星电视被曝内置 CNN 模型，追踪你的视频观看与广告跳过行为 — kingslyj · 2026-10-25
- Noah Smith：AI 网络攻击泛滥或终结互联网公共品时代 — skdh · 2026-10-25
- 安全研究扫描 1.2 万块暴露 GPU:中国网络发现 32 块英伟达 B300 — AccBalanced · 2026-10-25
- Google AI 功能默认 opt-in 成其广告数据合规护城河 — VectorWireAI · 2026-10-25