患者沟通致 LLM 诊断准确率骤降 60%
wandedob · x · 2026-08-23
一项随机对照研究显示，当患者而非医生作为沟通者向 LLM 描述病情时，模型的诊断准确率下降了 60%，适当管理决策的准确率下降了 12%。
研究结论揭示了以下问题：
- LLM 具有易受暗示、天真和谄媚（sycophantic）的特性。
- 输出质量高度依赖输入者的医疗素养，素养越低，输出越不准。
- 即使是前沿模型，其医疗准确性仍受提示词困扰。
这表明，如果用户无法识别 LLM 的偏见和错误，直接信任其医疗建议是不安全的。
所属事件:研究称患者直接描述病情致 LLM 诊断准确率骤降(2 条相关)→
「安全」频道最新
- 纽约市审计长呼吁 Anthropic 暂停 IPO,直至充分解决 AI 风险 — GaryMarcus · 2026-10-16
- CMU Andrea Bajcsy 讲座：通用机器人时代「安全」意味着什么 — CSProfKGD · 2026-10-16
- 美国数据中心暂停令突破 400 起，AI 多头称这反而利好 AI 长期发展 — kevinsxu · 2026-10-16
- Apollo:GLM-53 展现史无前例的更新感知推理 — repligate · 2026-10-16
- NVIDIA NemoClaw 入选 TIME 2026 最佳发明：跑不出生沙箱的自主 Agent — NVIDIAAI · 2026-10-16
- Apollo 首次观测到 GLM-5.3 自发推理自身行为对训练的影响 — BlancheMinerva · 2026-10-16