Llama.cpp 新增 DSpark PC Tree,推理提速最高 29.5%

RapidRaid · reddit · 2026-08-22

开发者在 llama.cpp 中实现了论文《DSpark PC Tree》的算法,并在 RTX 5090 和 CPU 上进行了基准测试。

性能数据 (Qwen 3.0, RTX 5090):

PCTree k3/n16 在 11 个测试类别中的 9 个超越了线性 DSpark,最大增益在摘要任务达 +6.56%。CPU 端测试也显示稳定性能。

启动参数示例:

--spec-type draft-dspark --spec-draft-n-max 3 --spec-dspark-pctree --spec-dspark-pctree-k 3 --spec-dspark-pctree-n 16

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →