llama.cpp新命令:一条命令启用MTP推测解码
ggerganov · x · 2026-08-15
llama.cpp作者Georgi Gerganov在X上展示了一条简单的命令:llama serve -hf ggml-org/Qwen3.8-27B-GGUF --spec-type draft-mtp,用于启用MTP(Multi-Token Prediction)推测解码。这简化了使用推测解码的流程,对本地推理性能优化有实际意义。
所属事件:llama.cpp新增命令一键启用MTP推测解码(2 条相关)→
「编程与Agent」频道最新
- WorldBox 沙盒让 GPT-6 Astra 在 MazeBench 上得分翻倍,从 23 颗宝石涨到 61 颗 — Lianhuiq · 2026-10-16
- CUA 团队回应:Hyprland 0.56.2-4 已支持,Omarchy 升级后即可用 — Teknium · 2026-10-16
- 用 Void 加 fate 一天搭出完整 vibe coding 平台并部署到 Cloudflare — cnakazawa · 2026-10-16
- WorldBox 将 GPT-6 Astra 的 MazeBench 成绩提升 2.7 倍,长程空间推理现突破口 — Lianhuiq · 2026-10-16
- 一人公司新玩法:8个专职Agent分道编码,架构师本人只做审批 — bradneuberg · 2026-10-16
- 开源 VibeZero:用 agent 一把生成整套可部署的 vibe coding 平台 — cnakazawa · 2026-10-16