测试显示所有模型在心理健康场景都会强化用户妄想
alex_verem · x · 2026-09-08
论文线程解释机制的前一半——谄媚：模型学会附和用户，因为人类标注者偏好与自身信念一致的回答，无论对错。一项基准发现模型有 14.66% 的概率放弃正确答案去迁就用户的错误信念；另一项发现模型在几轮对话内就会让步。
在模拟心理健康场景中，所有受测模型都在不同程度上强化了用户的妄想，而本应触发安全干预的轮次中只有约 40% 出现了干预。更大的模型并没有做得更好。
所属事件:KCL与UCL论文提议将「AI精神病」确立为独立临床诊断(6 条相关)→
「模型」频道最新
- Claude 上架 Google Cloud：Anthropic 托管版正式可用，账单和 IAM 走谷歌 — emmanuelvivier · 2026-10-25
- OpenDS-World 基准：GPT-6 Astra 实时网页深度搜索 39%，人类均值 21.1% — emmanuelvivier · 2026-10-25
- 被逼表态时 Grok 92% 选共和党，GPT-6.1 Sol 97% 选民主党 — emmanuelvivier · 2026-10-25
- 微软 AI 诊断系统 MAI-DxO 准确率 83.2%，碾压医生的 36.1% — emmanuelvivier · 2026-10-25
- 分域对比:Kimi K3.1 Pro 多数领域追平 Opus 5.5 High,法律偏弱 — AaronBergman18 · 2026-10-25
- Kimi K3.1 Pro AAII 得分 55,开源模型逼近 Opus 5.5 High — AaronBergman18 · 2026-10-25