一行参数提速 55%：把 llama.cpp 的 --adapt-every 从 1 调到 6
Bzucko · reddit · 2026-10-17
作者在本地跑 Qwen 3.8 Flash Next（GGUF 量化）时发现，把 --adapt-every 从校准默认值 1 提高到 6，解码速度显著提升：
- UD-Q4KXL：四条测试提示词分别提速 +19%、+12%、+23%、+55%（最长的一条为 2 万 token 的源码描述，从 27.8 升到 43.1 t/s）
- UD-IQ4XS：分别提速 +9%、+24%、+24%、+16%
- 测试环境：Intel [email protected]、RTX 4070 Ti Super、64GB DDR4、Arch Linux TTY，斯洛伐克语对话测试
长输出场景收益最大，属于零成本的本地推理调参技巧。
「Infra」频道最新
- MOSS-Image 推出 INT8 量化版与 SFT 条带伪影修复 LoRA — tomByrer · 2026-10-17
- 在 C64、486 DOS 和任天堂 Wii 上跑语言模型的极客移植 — Awacer · 2026-10-17
- 买卡、租卡还是调 API?关键就看你的实际 GPU 利用率 — Dizzy_Lingonberry947 · 2026-10-17
- 开源工具 Underclass 池化多份 ChatGPT 订阅,绕开区域推理容量限制 — TheZachMueller · 2026-10-17
- 一文串起分布式 LLM 训练:6 种并行策略与通信/内存瓶颈全解 — techNmak · 2026-10-17
- 云真的到极限了：网友玩梗调侃数据中心争议 — gnukeith · 2026-10-17