医疗 AI 正从大模型转向小专模
krishnan · x · 2026-07-14
这篇 Nature Biomedical Engineering 评论讨论了医疗场景里小模型 vs 大模型的现实取舍：医院并不总需要“最聪明”的模型，而是需要能满足隐私、延迟和预算约束的模型。
文中给出几组关键观察：一个 671B 模型在医师执照考试上输给了 8B 模型；同一个 8B 模型在通用医学知识上只拿到 45%，约为 GPT-4o 的一半。更重要的是，未经约束的小模型在简短回答任务里的幻觉率高达 80%，但在经过微调和提示约束、并限定为结构化病历生成这类单一任务后，错误率可以降到不高于人类文书错误率。
作者的结论是：安全是部署属性，不是模型属性。更可行的架构是：用小型专用模型 + 编排层处理具体任务，由大模型在上游充当教师，而不是直接进“考试/临床现场”。文章还强调了算力和经济现实——例如一个 175B 模型约需 350GB 内存、5 张 A100，年耗电可达 35,000 kWh，而很多低收入国家人均年用电量都不到 1,000 kWh。
「应用」频道最新
- Glean 上架 Claude Marketplace，可抵扣部分 Anthropic 承诺消费额度 — verrsane · 2026-10-27
- Google Docs 与 Drive 原生支持 Markdown，主打人类与 AI 协作 — thisiskp_ · 2026-10-27
- Instinct 推出 Link balance:给 AI agent 设预算自主代购 — jeff_weinstein · 2026-10-27
- 开源 AI 地下城主应用上架 Play 商店,16GB GPU 即可跑全 5e 规则 — lebbi · 2026-10-27
- Wraps 开源:基于自有 AWS SES 的 Resend 风格邮件服务 — stewartjarod · 2026-10-27
- Sentry CEO 业余项目 Peated：为威士忌酒厂生成 AI 百科页 — zeeg · 2026-10-27