Perplexity 开源 Lily 详解:hybrid compute 为何需要专用本地引擎
perplexity_ai · x · 2026-09-03
Perplexity 在推文串中回顾 Lily 的开源背景:为 Perplexity Computer 的 hybrid compute 架构打造——云端模型与 Mac 本地模型分工协作,本地推理不能拖慢整体任务。Lily 专为 Apple 芯片上的 Qwen3.6-35B-A3B 优化,区别于通用框架 MLX-LM,把 prefill 与 decode 作为不同工作负载分别处理。
所属事件:Perplexity 开源 Lily：Apple 芯片专用本地推理引擎(6 条相关)→
「Infra」频道最新
- 博通预告 AI 营收 FY2027 翻倍至 1150 亿美元,FY2028 再翻倍到 2300 亿 — BenBajarin · 2026-09-03
- Perplexity 开源本地推理引擎 Lily,专为 Apple Silicon 优化 Qwen3.6 — inductionheads · 2026-09-03
- Nvidia 市值占标普 500 约 8%,达美国 GDP 的 16.3% — ivan_bezdomny · 2026-09-03
- 博通 Q3 AI 芯片营收 167 亿美元同比暴涨 221%,Q4 指引 217 亿 — Beth_Kindig · 2026-09-03
- 评测称 Claude Fable 5.1 将 agent 失败率砍半，单次正确答案成本 2.46 美元 — ryanshrout · 2026-09-03
- 安全公司 Bitbison 深度复盘 eBPF 性能陷阱:hook、CO-RE 与 ring buffer 实践 — tianyin_xu · 2026-09-03