InferenceBench 一年趋势:前沿模型推理优化加速比从 3x 涨到 12x
maksym_andr · x · 2026-11-09
InferenceBench 公布 2025 年 9 月至 2026 年 10 月的历史趋势:前沿模型在推理优化任务上的加速比从 3x 提升到 12x,倍增时间约 6.3 个月(×1.117/月,R²=0.95)。排行榜显示 Claude Opus 5.5 (Max) 以 12.08x 几何平均加速位居第一,Claude Fable 5.1、Claude Opus 5 等随后,GPT-6 Astra (Ultra) 7.90x、GLM-5.2 (Max) 7.00x 也在前列,明显高于 vLLM/SGLang 等默认配置。
所属事件:InferenceBench:前沿模型推理优化加速比一年增至12倍(2 条相关)→
「Infra」频道最新
- 华为诺亚提出 LowRAM:注意力头内摊销 Value 实现 4 倍 KV 压缩 — Teresa Delgado · 2026-11-09
- Anthropic 锁定 1.7GW 燃气发电机,34 亿美元自建电力 — tengyanAI · 2026-11-09
- Autopilot for CI 发布:跨厂商自适应路由,客户省 30% CI 成本 — emeka_boris · 2026-11-09
- 美国地方选举限制数据中心扩建,算力成本或上涨 — pstAsiatech · 2026-11-09
- 自建本地工作站跑 DeepSeek 与视频生成,可克隆几乎任意视频 — dee_hw · 2026-11-09
- Alex Banks 点评 Oracle 的 AI 全栈联盟:OpenAI、Nvidia、Google 通吃 — thealexbanks · 2026-11-09