医疗 AI 正从大模型转向小专模

krishnan · x · 2026-07-14

这篇 Nature Biomedical Engineering 评论讨论了医疗场景里小模型 vs 大模型的现实取舍:医院并不总需要“最聪明”的模型,而是需要能满足隐私、延迟和预算约束的模型。

文中给出几组关键观察:一个 671B 模型在医师执照考试上输给了 8B 模型;同一个 8B 模型在通用医学知识上只拿到 45%,约为 GPT-4o 的一半。更重要的是,未经约束的小模型在简短回答任务里的幻觉率高达 80%,但在经过微调和提示约束、并限定为结构化病历生成这类单一任务后,错误率可以降到不高于人类文书错误率。

作者的结论是:安全是部署属性,不是模型属性。更可行的架构是:用小型专用模型 + 编排层处理具体任务,由大模型在上游充当教师,而不是直接进“考试/临床现场”。文章还强调了算力和经济现实——例如一个 175B 模型约需 350GB 内存、5 张 A100,年耗电可达 35,000 kWh,而很多低收入国家人均年用电量都不到 1,000 kWh。

原文链接 →

「应用」频道最新

更多「应用」频道 AI 资讯 →