医疗 AI 正从大模型转向小专模
krishnan · x · 2026-07-14
这篇 Nature Biomedical Engineering 评论讨论了**医疗场景里小模型 vs 大模型**的现实取舍：医院并不总需要“最聪明”的模型，而是需要能满足隐私、延迟和预算约束的模型。 文中给出几组关键观察：一个 **671B** 模型在医师执照考试上输给了 **8B** 模型；同一个 8B 模型在通用医学知识上只拿到 **45%**，约为 GPT-4o 的一半。更重要的是，**未经约束的小模型**在简短回答任务里的幻觉率高达 **80%**，但在经过微调和提示约束、并限定为结构化病历生成这类单一任务后，错误率可以降到**不高于人类文书错误率**。 作者的结论是：**安全是部署属性，不是模型属性**。更可行的架构是：用**小型专用模型 + 编排层**处理具体任务，由大模型在上游充当教师，而不是直接进“考试/临床现场”。文章还强调了算力和经济现实——例如一个 **175B** 模型约需 **350GB** 内存、**5 张 A100**，年耗电可达 **35,000 kWh**，而很多低收入国家人均年用电量都不到 **1,000 kWh**。