Apple Silicon上的Diffusion LLM优化实验
DunklerErpel · reddit · 2026-07-15
这是一篇关于在 **Apple Silicon** 上做 diffusion LLM（如 LLaDA2.1、Sumi）实验的长帖，作者还放出了 GitHub 仓库 **NeoDiffusion**。 帖子内容主要是各种优化实验的结果汇总，覆盖了从基线到多种提速方案： - **量化方案**：比较 4-bit、6-bit 等布局，给出显存占用与翻转率 - **缓存优化**：如 elastic cache、FlashBlock caching 等，部分方案被拒绝或需要重新 benchmark - **推测执行 / speculation**：包括 self-speculation、draft graph 等，部分 preset 被接受 - **token freezing / JOT**：对 reasoning 吞吐有提升，但在部分平台上有同步开销 - 多项实验都记录了 **TPS、步骤数变化、compute negative/positive** 等指标 整体上，这是一份偏工程复盘性质的性能实验记录，重点不是“模型发布”，而是如何把 dLLM 在本地硬件上跑快、跑稳。