夜间训练小模型学会「不确定就问医生」:错误从 46 降到 13
MaziyarPanahi · x · 2026-10-28
作者训练了一个小型开源模型,采用置信度阈值策略：只有当模型对答案的把握超过 90% 时才自己作答,其余情况一律转交人类,输出「不确定,请咨询医生」。
结果：在模型独立作答的那些案例上,错误数从 46 降到 13。作者以此引出问题：你会让 AI 独立做哪些决定？这是一种简单可复制的「选择性预测/人机交接」做法,适合医疗等高风险场景。
所属事件:小型开源医疗模型学会弃权:拿不准就转问医生(2 条相关)→
「研究」频道最新
- DiscoTrace 论文获 EMNLP 2026 最佳论文:对比人类与 LLM 的答题策略 — rachelrudinger · 2026-10-29
- 一张红心图片就能让模型 100% 写递归代码，DeepMind 论文揭示隐式视觉引导 — dair_ai · 2026-10-29
- 新基准 CMASS 登场：5.5 亿文档语料上考验智能体搜索 — lintool · 2026-10-29
- 把蛋白质写成字母序列：Profluent 用语言模型设计基因编辑器 — nathanbenaich · 2026-10-29
- AAAI rebuttal 季到了，研究员公开自己的答辩模板 — StephenLCasper · 2026-10-29
- 学者提出「Neurovium」：神经、计算与认知的统一学科 — neurovium · 2026-10-28