Baseten 将 770GB 模型权重增量同步缩至 15 秒，快 7.5 倍
baseten · x · 2026-10-31
Baseten 宣布上线全球最快的 delta 权重同步：前沿实验室和研究团队用其托管 RL rollout，发布新权重后全球机队即时更新，保证 rollout 始终跑在最新策略上。此前约 770GB 的 GLM-5.3 检查点同步需约 36 秒、请求暂停 6 秒；现在同规模同步仅需 15 秒、请求暂停 0.8 秒，比此前 SOTA 快 7.5 倍。技术细节见其工程博客。
「Infra」频道最新
- Google 太空数据中心首次跑通:轨道 TPU 完成 Gemma 推理并回传 — ns123abc · 2026-10-31
- Google Cloud 花费上限正式上线：新增 API、实时成本报告与每月自动重置 — rseroter · 2026-10-31
- Swift 1.5 Flash Next 去审查逆向版新增多种量化，IQ4 精度换体积 — jjusko20 · 2026-10-31
- ClickHouse 曝未认证远程代码执行漏洞 CVE-2026-116366 — Hacubu · 2026-10-31
- 批量合并提问只读一遍文档,可大幅降 LLM 分类成本与延迟 — petrusenko_max · 2026-10-31
- 低成本双卡 3060 12GB 本地推理方案:显存性价比压过贵一倍的 5060 — Frizzy-MacDrizzle · 2026-10-31