llama.cpp新增命令一键启用MTP推测解码

llama.cpp作者展示了新命令,用户可通过llama serve配合参数轻松启用MTP推测解码,以加速Qwen3等服务运行,简化了高性能推理的配置流程。

2026-08-15 ~ 2026-08-15 · 2 条相关