vLLM 生态 Speculators v0.8.0 发布：统一 CLI 与 Triton 融合损失核
vllm_project · x · 2026-09-08
Red Hat AI 发布投机解码器训练工具 Speculators v0.8.0，在 DSpark/DFlash 基础上进一步简化训练流程：
- 统一 speculators CLI，整合响应再生成、预处理与在线/离线训练入口
- Mooncake 隐状态抽取后端独立为 hs-connectors 包，已上架 PyPI，支持多节点训练
- 用单一融合 Triton online-softmax 损失核降低训练显存
- 实验性支持 DFlash2 训练与 checkpoint，及 Laguna 热启动
- 评测跑加入可复现工件（evalcommand.txt 等）
「Infra」频道最新
- Marigold V2 训练配方：4bit 量化 DiT 加 QLoRA 单卡微调 — AntonObukhov1 · 2026-09-09
- Magic 宣称预训练效率提升 50 倍：约 50 万美元复现 DeepSeek V4 Pro — magicailabs · 2026-09-09
- 45 万美元训练出前沿级法律模型 Thomson,数据策展成关键杠杆 — schwarzjn_ · 2026-09-09
- 高通确认 AWS 合作已计入 FY29 150 亿美元数据中心营收目标 — BenBajarin · 2026-09-08
- 数据中心建设开支半年暴增250亿美元,招聘岗位重回30万+ — AccBalanced · 2026-09-08
- 算力金融化狂飙:GPU租赁CDO或将上市 — AccBalanced · 2026-09-08