实测:Qwen3.8-Flash-Next 速度快但在复杂推理中会“假死”
trashacct383 · reddit · 2026-08-31
作者在单卡 RTX 6000 Blackwell 上对 Qwen3.8-Flash-Next-NVFP4 与 Qwen3.8-27B-FP8 进行了本地对比评测,测试场景包括文本评分、记忆整合、深度研究等实际工作流。
结论:
- Flash-Next: 速度更快(约 177 tok/s),在严格 JSON 输出、注入防护、SLA 合规性方面零失误,在空间推理和代码生成的高阶任务中表现更好。
- 27B 密集版: 在持续多步符号推理(如修 Bug、数学证明)中依然胜出。
- 新问题: Flash-Next 出现了一种新的失败模式:承诺完成任务并声明“done”,但随后不输出任何内容。两者不能直接互相替换。
部署细节:
文章提供了详细的 vLLM Docker 配置指令,涉及 CPU Offload、MTP ( speculative decoding )、xgrammar 等参数设置。
「Infra」频道最新
- Google 将 2026 年资本开支上调至最高 2050 亿美元 — emmanuelvivier · 2026-10-16
- Google 开源 AX:像 Kubernetes 一样编排数十亿 Agent 任务 — thisdudelikesAI · 2026-10-16
- Valtz 新版支持 FLUX.3,Mac 本地生图最高 4K 分辨率 — TgoAI · 2026-10-16
- 百度开源 FlashMask:长上下文训练最高比 FlashAttention-4 快 1.55 倍 — BaiduResearch · 2026-10-16
- 独立开发者 GYRO 量化实测:体积更小却达 ISTA Q3 水平 — PlasticRevenue4601 · 2026-10-16
- RL 训练系统已成前沿建模最复杂的基建难题,_best_方案是商业机密 — brianryhuang · 2026-10-16