slime v0.3.1 发布:大幅优化显存与训练性能
hsu_byron · x · 2026-08-06
THUDM 推出 slime v0.3.1 版本。本次更新未引入重大新功能,而是借助 AI agents 提升工程效率,重点清除了此前的技术妥协。
主要改进包括:
- 显存与训练优化:降低 Megatron offload 开销,支持 PYTORCHALLOCCONF,并新增 --release-train 以在迭代间释放更多显存。
- 权重更新加速:优化更新路径并支持并行 updatefromdisk。
- 对齐与算法:引入 Top-p masking,改善 rollout 与训练的对齐,并降低 PPO logprob/entropy 计算的内存占用。
- 架构精简:移除了 Megatron Bridge 支持。
「Infra」频道最新
- 高盛预测:2027年超大云厂商资本支出将达1.2万亿美元 — Beth_Kindig · 2026-08-06
- Cloudflare 发布 Agent 专属浏览器 Kitesurf — threepointone · 2026-08-06
- Cloudflare 推出全新无状态 MCP 架构 — threepointone · 2026-08-06
- FlashInfer 合并 Blackwell 内核,端到端推理提速 7.6% — YouJiacheng · 2026-08-06
- 将Rust编译器提速3倍,每年可节省数亿美元算力 — doodlestein · 2026-08-06
- Alphabet 年内已募资超 1500 亿美元,正寻求 250 亿新债 — firstadopter · 2026-08-06