NVIDIA 发布 Qwen3.8 Flash Next FP4 量化版,自称几乎无损
EAccelerate_42 · x · 2026-10-16
NVIDIA 在 Hugging Face 上发布了 Qwen3.8 Flash Next 的 FP4 量化版本(nvidia/Qwen3.8-Flash-Next-FP4-Local),定位本地部署。
- 据模型卡称,相比 BF16 基准「几乎无损」。
- 该版本面向本地运行场景,支持视觉输入(图片/视频)处理。
- 内置推理力度配置,默认 xhigh,支持 medium/low 档位。
该转发者表示会实际测一下损失情况,具体表现仍有待第三方验证。
所属事件:NVIDIA 上架 Qwen3.8-Flash-Next FP4 本地量化版,意外曝光未发布新模型(5 条相关)→
「Infra」频道最新
- TokenSpeed MLA 2 发布:Kimi K3 在 Vera Rubin 解码最快提速 3.44 倍 — zhyncs42 · 2026-10-16
- FreeSolo 稀疏注意力:线性复杂度实现零样本长度外推 — Zekun Shi · 2026-10-16
- 开源 sleepy-llm 反向代理:让本地 LLM 服务器按需自动唤醒关机 — ac101m · 2026-10-16
- AI 芯片架构与经济学的交汇:一场跨视角讨论 — ai · 2026-10-16
- 797GB n-gram 表存进 CPU 内存,1B 规模预训练多榨 57% 算力 — anshulkundaje · 2026-10-16
- 给预训练 Transformer 换上 Titan 模块:推理提速且性能损失有限 — behrouz_ali · 2026-10-16