DwarfStar 新增多项推理优化
antirez · x · 2026-07-20
DwarfStar 发布了一个“可能会炸”的新版本，新增内容很多：micro-batching、CUDA 多设备支持、GLM5.2、通过 RDMA 实现的 Metal 张量并行执行，以及 DSpark 的 speculative execution 等。作者也坦言这次改动太多，后续 QA 会变得很重。
「Infra」频道最新
- 路由故障让 Claude Code 智能体 3.5 小时烧掉 3020 万 token — RileyRalmuto · 2026-07-21
- 单集群可扩至50万卡，华为Atlas 950 SuperPoD算力架构曝光 — pstAsiatech · 2026-07-21
- 韩国七月前 20 天出口增逾五成，AI 芯片带动 — Polymarket · 2026-07-21
- Bittensor 阵营称去中心化训练可抵消数倍算力差距 — markjeffrey · 2026-07-21
- Cloudflare 验证页开始识别 AI 代理而不只是人类 — shashib · 2026-07-21
- 多节点 vLLM 经过拓扑调优，单用户吞吐升至 47 tok/s — TheZachMueller · 2026-07-21