实测发现编程时应禁用 MTP：长上下文下速度骤降
fbms2 · reddit · 2026-08-22
用户实测发现，多 Token 预测（MTP）在编程场景下弊大于利。虽然聊天模式下开启 MTP 在 5090 显卡上可达 140t/s，但在编程时，随着上下文超过 60k，速度会从 100t/s 骤降至 10-20t/s；禁用 MTP 后，速度虽起跑较慢（50t/s），但在高上下文下能稳定在 40t/s 左右。
「编程与Agent」频道最新
- Vercel 后端升级:Python 正式 GA,新增容器与 Daemons — cramforce · 2026-10-16
- WorldMemArena 中选 NeurIPS:存储式 Agent 记忆评估遭颠覆 — xwang_lk · 2026-10-16
- Vercel Ship 现场宣布容器部署,Go/Ruby/Java 皆可上 — edwin · 2026-10-16
- TRL 零时差支持 Muse Spark Open：64 张 H100 上 LoRA 微调 816B MoE — QGallouedec · 2026-10-16
- 工程师入职首日全靠 AI 提问，第二天就能提交有影响力的 PR — Yuchenj_UW · 2026-10-16
- Perplexity 开源支撑其 Computer 产品的智能体沙箱平台 SPACE — AravSrinivas · 2026-10-16