LMSYS发布SpecForge更新:支持推测解码与多款国产模型
BanghuaZ · x · 2026-08-05
LMSYS 发布了 SpecForge v0.3.0，带来推测解码的重大更新。
- 架构升级：新运行时将目标模型推理与草稿模型训练分离，统一了在线、离线和分解式工作流。
- 模型支持：SpecBundle 扩展至 11 个开源草稿模型，涵盖 GLM-5.1、Kimi K2.5/K2.6/K2.7-Code、Qwen3 和 Step-3.5-Flash 等主流模型。
「Infra」频道最新
- 传美国拟禁中国数据中心组件，欧洲借机推进算力主权 — nordicinst · 2026-08-05
- Cursor 发布 MoE 训练 megakernel，宣称算力近乎翻倍 — CapnHat · 2026-08-05
- NVIDIA 教程：在 Jetson 平台构建全本地自主 Agent — NVIDIA Developer · 2026-08-05
- YC 新项目 Caution Hosting:为敏感 AI 负载提供安全托管 — ycombinator · 2026-08-05
- 分析：超 70% 云厂商 AI 收入高度依赖 OpenAI 与 Anthropic — johnnyApplePRNG · 2026-08-05
- engy.ai 上线 Kimi K3，提供全网最低推理价格 — markjeffrey · 2026-08-05