Perplexity 开源 Lily 详解:hybrid compute 为何需要专用本地引擎
perplexity_ai · x · 2026-09-03
Perplexity 在推文串中回顾 Lily 的开源背景:为 Perplexity Computer 的 hybrid compute 架构打造——云端模型与 Mac 本地模型分工协作,本地推理不能拖慢整体任务。Lily 专为 Apple 芯片上的 Qwen3.6-35B-A3B 优化,区别于通用框架 MLX-LM,把 prefill 与 decode 作为不同工作负载分别处理。
所属事件:Perplexity 开源 Apple 芯片专用本地推理引擎 Lily(8 条相关)→
「Infra」频道最新
- MIT 团队实测:agent 编码用量若按 API 计费每月高达 4 万美元 — ChrisRackauckas · 2026-10-18
- 越狱 PS5 跑 llama.cpp:开源 PS5LM 让主机变身家庭本地 LLM 服务器 — wateriscoding · 2026-10-18
- DFB 激光器耦合薄膜铌酸锂芯片：最高 170mW、阈值仅 40-45mA — jwt0625 · 2026-10-18
- 5070 Ti 外挂 3070 混搭跑 Qwen 35B 达 82 tok/s — hereforcheesee · 2026-10-18
- 中国在建/规划功率半导体晶圆厂达 69 座,遍布 58 家厂商 — zephyr_z9 · 2026-10-18
- 研究测算：AI 数据中心每年需 3.5 万亿美元收入才能撑住 — TheseFact · 2026-10-18