27B 小模型加持技能层，本地跑通受监管医疗工作流

作者尝试在不升级模型参数量的情况下，通过给 27B 小模型增加 5 个特定技能（如 cohort specs、value sets 等）来处理受监管的医疗数据工作流。实验在本地双消费级 GPU 上推理，采用 Q6 量化的 27B 密集模型，不将数据发送到外部。结果显示该方案效果超出预期，为受监管行业的本地化 AI 应用提供了参考。

2026-08-28 ~ 2026-08-29 · 2 条相关