Mac Studio本地运行27B模型处理长病历

开发者实测在Mac Studio上本地部署运行prism-ml/Ternary-Bonsai-27B-gguf模型，成功处理了一份跨度长达3年的患者病历。在严格保障数据隐私的前提下，模型完整读取了包含292次就诊记录的敏感信息。这一实践证明了消费级硬件在本地运行中等参数大模型并处理超长上下文任务的可行性。

2026-07-15 ~ 2026-07-15 · 2 条相关