Qwen3.8-27B 实测 AIME 2026 拿 29/30,FP8 追平 BF16 且快近 3 倍
No_Run8812 · reddit · 2026-08-21
作者在 MathArena/aime2026 数据集上对比了 Qwen3.8-27B 的 BF16 与 FP8 权重(medium 与 xhigh 推理力度),结果:
- FP8 xhigh 拿下 29/30(96.7%),与 BF16 xhigh 持平,但解码速度从 28 tk/s 提到 76 tk/s,预填速度也快得多;
- FP8 medium 为 26/30,BF16 medium 为 28/30,量化在 medium 档略有损耗;
- 第 7 题两种 xhigh 设置都耗尽上下文 token 预算未给出最终答案,属空跑而非答错。
对比前沿模型(单次 pass@1):GPT-5.6 Sol xhigh 报告分 99.9%、GLM-5.2 99.2%、GPT-5.4 99.2%、Gemini 3.1 Pro 98.3%、Claude Opus 4.6 与 DeepSeek V4 Pro 均 96.7%——一个 27B 模型 FP8 量化后追平了多款旗舰,性价比惊人。
评测条件:exact-match 评分、温度 0、关闭采样、相同 chat template 与 prompt 格式。
「模型」频道最新
- Muse Spark Open 经 llama.cpp 跑通 M3 Ultra:前沿模型上桌面 — pcuenq · 2026-10-16
- OpenAI 推出 GPT-Live-1.1 语音升级:新增六语种声音、更少卡顿 — OpenAI · 2026-10-16
- LMArena 上线 Muse Spark 新模型,Battle 与 Agent 模式可测 — arena · 2026-10-16
- 多模型同题设计 UI:用 Paseo 编排四套界面方案竞技 — vista8 · 2026-10-16
- Ilya 质疑 Meta 新许可证:年收入超 2000 万美元的推理服务商须与 Meta 另签协议 — ilyasu · 2026-10-16
- Muse-Spark 开源权重发布:816B MoE 模型 MLX 3bit 版已上线 — ns123abc · 2026-10-16