Modal 多节点集群正式 GA，分布式训练者实测称「速度解锁」
nirmal_dist · x · 2026-10-28
开发者在为离散扩散模型做 context parallelism 实验时试用了刚 GA 的 Modal 多节点集群功能，评价其基础设施「极其优雅便捷」，是明显的开发速度提升。
- Modal 的 clustered 功能可将 Function/Server 跑在共置联网的容器集群上：每容器须占满宿主机全部 GPU（如 H100:8），不支持纯 CPU 集群。
- 输入广播到所有容器，默认只返回 rank 0 输出；可选 RDMA 网络加速 GPU 集合通信；容器内可用 modal.Cluster.fromcontext() 获取 rank 与 IP。
「Infra」频道最新
- Paras Chopra 呼吁：印度需要设立「算力部」 — paraschopra · 2026-10-28
- 6 个 AI Agent 运营公司实录：笔记本合盖停摆 26 小时后迁云踩坑记 — Icy_Comfort_6220 · 2026-10-28
- 双 3090 本地跑 Strata 实测：IQ3_S 100 tok/s vs IQ4_XS 30 tok/s 的取舍 — klasyer · 2026-10-28
- Matt Turck 调侃：《饥饿游戏》新广告神似 GPU 短缺纪录片 — mattturck · 2026-10-28
- llama.cpp 新 PR 为 LFM3 系列小模型启用视频输入 — jacek2023 · 2026-10-28
- 德州选民普遍反对数据中心，San Marcos 已率先禁建 — The Verge AI · 2026-10-28