心理健康工作者批评算法分诊：伤害患者且缺乏透明度
hn_acker · hn · 2026-09-01
报道指出，美国医疗系统中广泛使用的算法分诊工具（如 Ember、Noble 等产品）正遭到心理健康一线工作者的批评。从业者认为，这些系统往往基于不完善的数据训练，无法准确评估患者的自杀风险或复杂需求，导致高危患者被错误分级，甚至出现“机器说你不紧急，所以不管你”的危险情况。文章呼吁对医疗 AI 决策流程进行更严格的人机回环审查与监管。
「漫话AGI」频道最新
- Lean 化数学会不会毁掉数学之美?圈内人激辩数学文化走向 — akbirthko · 2026-10-16
- CSO 分析:agent 并未失控,是前沿实验室漏掉了安全基本功 — Sam_Witteveen · 2026-10-16
- 新工作论文:20世纪农业自动化如何重塑下一代人力资本 — carlbfrey · 2026-10-16
- 扎克伯格开办电工培训学校，美国在建数据中心已超办公楼 — emmanuelvivier · 2026-10-16
- Mike Frank:AI 脱离人类独立生存仍需数十年,现实世界抵抗剧变 — MikePFrank · 2026-10-16
- 开发者晒「非 LLM 控制核」系统，自称出现涌现式自我反思 — HungarySam · 2026-10-16