Llama.cpp 新增 DSpark PC Tree,推理提速最高 29.5%
RapidRaid · reddit · 2026-08-22
开发者在 llama.cpp 中实现了论文《DSpark PC Tree》的算法,并在 RTX 5090 和 CPU 上进行了基准测试。
性能数据 (Qwen 3.0, RTX 5090):
- Plain: 94.27 tok/s
- DSpark n3: 155.64 tok/s (+65%)
- PCTree k3/n16: 159.00 tok/s (+69%, vs plain)
PCTree k3/n16 在 11 个测试类别中的 9 个超越了线性 DSpark,最大增益在摘要任务达 +6.56%。CPU 端测试也显示稳定性能。
启动参数示例:
--spec-type draft-dspark --spec-draft-n-max 3 --spec-dspark-pctree --spec-dspark-pctree-k 3 --spec-dspark-pctree-n 16
「Infra」频道最新
- MCP 并非取代 API,而是改变了 API 的设计受众 — kush_patil · 2026-08-22
- 民调:美国民众反对建数据中心比例一年内升至 75% — The Decoder · 2026-08-22
- Qwen3.8-27B 推出 DFlash2 投机解码 GGUF 量化版 — incoai · 2026-08-22
- Woolly 让 Qwen3-8B 数理解码提速 2-3 倍 — bosmeny · 2026-08-22
- 观点:禁数据中心将致未来二十年经济低迷 — GabGarrett · 2026-08-22
- Vercel修复TLS碎片问题,所有网站恢复正常 — uwukko · 2026-08-22