27B开源推理模型可跑iPhone
The Decoder · rss · 2026-07-15
PrismML 把一个 **27B 参数**的开源推理模型压缩到 **4GB 以下**，小到可以放进 iPhone 里运行。 文中说，公司的基准测试显示，最小版本还能保住原始性能的大约 **90%**，数学和代码能力几乎没有明显受损。文章还提到，苹果据称已经在测试这套压缩技术；如果属实，这可能帮助苹果缩小端侧 AI 能力上的差距。
The Decoder · rss · 2026-07-15
PrismML 把一个 **27B 参数**的开源推理模型压缩到 **4GB 以下**，小到可以放进 iPhone 里运行。 文中说，公司的基准测试显示，最小版本还能保住原始性能的大约 **90%**，数学和代码能力几乎没有明显受损。文章还提到，苹果据称已经在测试这套压缩技术；如果属实，这可能帮助苹果缩小端侧 AI 能力上的差距。