mlx-vlm 集成 LFM2.5 推测解码：M5 Max 提速 3.7 倍
helloiamleonie · x · 2026-08-22
mlx-vlm 项目宣布在 v0.6.16 版本中集成 Liquid AI 的 LFM2.5 DSpark 模型。通过精确的推测解码，该实现在 M5 Max 芯片上实现了最高 3.7 倍的生成速度提升，且保证了零输出漂移。PR 细节显示，团队通过共享 Metal GEMV 核和混合缓存回滚机制，确保了 MoE 和密集模型验证的精确性。
「Infra」频道最新
- 黄仁勋做客 BG2 播客:谈 AI 收入能否撑起 Capex 与 2027 瓶颈 — elonmusk · 2026-10-16
- Mistral 本地推理基建机架曝光:DGX Spark、Mac Studio 等混搭 — gregmushen · 2026-10-16
- 英伟达携手瑞典 Wallenberg，Launch 共享 AI 超算 Sferical One — nvidia · 2026-10-16
- 基础设施下一站:能自我进化、自我验证的自适应系统 — _shreya_s · 2026-10-16
- 小米 MiMo RL 训练曝光:30 步花掉 347 万美元 — bycloud · 2026-10-16
- Cerebras 用异构 prefill 池喂晶圆级引擎，解码速度与 batch 解耦 — ai · 2026-10-16