Reddit 实测:新发布的量化模型普遍不敌几个月前的 DS/Qwen
EmilPi · reddit · 2026-10-24
作者在 2×RTX 3090 + 128GB RAM 环境下对一批新模型 GGUF 量化做了初步横评(Delta score 衡量超出平均的程度),DeepSeek-V4-Flash-Vision-Exp (MXFP4) 以 2.86 居首,Qwen3.8-Flash-Next 系列次之。任务涵盖 agentic coding、推理、空间推理、物理、对抗与大海捞针。结论:新模型均未超过几个月前的 DeepSeek/Qwen 水平。意外发现:Qwen3.8-Flash-Next 配 Strata(-kv int8)无质量损失且更快;Nemotron-3.5-Bolt 的 QAT 量化令人失望;Ling-3.0-Flash-Sante 更快但质量未提升;K2-Horizon-7B 同尺寸表现不俗。作者欢迎不同结果以改进测试。
「Infra」频道最新
- NVIDIA 发布 BioNeMo 推理运行时 v0.2,GPU 五阶段管线加速蛋白折叠预测 — AllThingsApx · 2026-10-24
- Sauers_ 暗讽 OpenAI 用未研究硬件跑多智能体强化学习 — Sauers_ · 2026-10-24
- OpenAI 红队曝 Brotli 未认证远程代码执行漏洞,波及 Node.js 等 — gdb · 2026-10-24
- Meta 开源模型 Muse Spark Open 实测:每兆瓦吞吐可达 1.5 亿 tokens/s — ArtificialAnlys · 2026-10-24
- 马斯克称租不到 GB300 甚至 H100,学者借机质疑对华芯片出口管制逻辑 — Gregory_C_Allen · 2026-10-24
- Polymarket 开出 AWS 再故障盘口:月底失信概率 25% — Polymarket · 2026-10-24