Qwen3.8-Flash-Next 实测:254K 长上下文首 token 提速 1.56 倍
FantasticNature7590 · reddit · 2026-09-17
- 作者在单张 RTX PRO 6000 Blackwell(96GB)上,用 SGLang 官方 NVFP4 镜像实测 Qwen3.8-Flash-Next,262K 窗口下约 254K 提示的首 token 时间从 34.9s 降到 22.4s,prefill 吞吐从 7,284 提到 11,352 tok/s(1.56×);缓存重复提示时首 token 从 21.7s 降至 0.44s(约 49×)。
- 能力测试:长上下文召回 81/81(窗口填充 99% 仍全对);BFCL 单轮工具准确率 85.2%,多轮仅 49.5%;τ²-bench telecom 完成 68.1%,三次内全部通过率仅 41.2%;对战 gauntlet 中思考模式胜 13/17,关闭后 8/17。
- SVG、视频剪辑与动效设计等生成任务大多通过硬校验,视频剪辑两项获 10/10;作者给出了完整软硬件配置、测试方法与多档上下文长度的延迟/吞吐数据表,是少见的开源栈长上下文系统级实测。
「Infra」频道最新
- OpenRouter 年化 token 量破 10 千万亿,Opus 驱动超 50 亿美元 GMV — deedydas · 2026-11-02
- 欲撼动 Postgres 须先复制其集成生态，而非只拼性能 — mgill25 · 2026-11-02
- 用 ESP32 小屏给 DGX 集群做推理监控面板,固件开源 — CATLLM · 2026-11-02
- OpenRouter 年化 Token 量破 10 千万亿,每 10.5 周翻一倍 — deedydas · 2026-11-02
- Palmer Luckey 追问数据中心 RAM 的使用权边界:能否做服务条款禁止的事 — avaitopiper · 2026-11-02
- 本地跑大模型实测:关闭 MTP 可提升 20-30% 生成速度 — InternalMode8159 · 2026-11-02