GLM-5.2 本地读完三年病历
MaziyarPanahi · x · 2026-07-15
作者称自己让 **GLM-5.2** 成功处理了一份持续 3 年的患者病历,而病历数据只允许本地的 Bonsai 27B 读取。 关键信息包括: - 292 次就诊记录都在 Mac Studio 上的 Bonsai 内 - 运行栈是 llama.cpp、Metal、ternary,模型体积 7.2GB,Apache-2.0 - 病历从未离开本机,GLM-5.2 只能发问,由 Bonsai 在约 2 秒内逐次回答 - 模型最终发现了 17 个月前埋下的风险点:metformin 与 iodinated contrast 在 eGFR 39 的情况下的组合 作者还提到,1-bit 版本据说能做到 3.9GB 并放进 iPhone 17 Pro Max,重点是这种“编排器不碰数据”的本地隐私架构。