Perplexity 开源 Mac 本地推理服务,专为 Qwen 优化 Apple Silicon 性能
Specter_Origin · reddit · 2026-09-03
Perplexity 在 GitHub 上开源了其 Mac 本地推理服务器(pplx-garden 仓库中的 lily 项目)。
- 该推理服务器针对单一模型(Qwen 3.6)做了极致优化,以在 Apple Silicon 上获得最佳性能
- 对想在 Mac 上本地跑模型的开发者是可直接使用的现成方案
所属事件:Perplexity 开源 Mac 本地推理引擎 Lily(8 条相关)→
「Infra」频道最新
- DeepSeek-V4-Pro 正式版发布:1.6T 参数 MoE,开源评测 Harness 同步亮相 — DeepLearningAI · 2026-09-03
- 博通 CEO:Anthropic 与 OpenAI 大购谷歌 TPU,将成其前两大定制芯片客户 — dinabass · 2026-09-03
- Hock Tan: 电力供应已直接决定算力部署的具体时点 — BenBajarin · 2026-09-03
- GLM-5.3-Flash 本地跑出 1005 tok/s,双卡 RTX PRO 6000 实测 — BanghuaZ · 2026-09-03
- Nvidia 市值占标普 500 约 8%,达美国 GDP 的 16.3% — ivan_bezdomny · 2026-09-03
- 博通 Q3 AI 芯片营收 167 亿美元同比暴涨 221%,Q4 指引 217 亿 — Beth_Kindig · 2026-09-03