llama.cpp 新命令:一行启动带 MTP 推测解码的 Qwen3 服务

ggerganov · x · 2026-08-15

ggerganov 展示了 llama.cpp 的 llama serve 命令,通过 --spec-type draft-mtp 启用 MTP 推测解码,并支持 --reasoning-preserve 和 --agent 等高级选项,简化了本地部署。

所属事件:llama.cpp新增命令一键启用MTP推测解码(2 条相关)→

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →