Modal Clusters 正式上线:RDMA 节点按秒计费,一个装饰器起集群
josh_wills · x · 2026-10-02
Modal 宣布 Modal Clusters 正式可用(GA)。这是一个酝酿两年、内测一年半的新原语:用户通过一个装饰器 @modal.clustered(size=4, rdma=True) 即可即时拉起全球可用、RDMA 互联的多节点集群,按秒计费,无需自购硬件。
- 官方示例展示用 B300:8 GPU 定义训练函数,通过 cluster.containerips()、containerrank() 等接口获取分布式训练所需的 rank/world size 信息
- Clusters 与 Modal 现有原语无缝集成:checkpoint 写入 Volumes、数据经 Cloud Bucket Mounts 加载、用 Queues 编排任务
- 定位是让组织“拥有智能而不必拥有硬件”,支持 petaFLOP 级训练与大规模推理服务
作者 peywalt 是 Modal 工程师,回顾两年前立项时连自己都不太相信“按秒计费的 RDMA 集群”能做出来。
所属事件:Modal Clusters 正式 GA:装饰器即可启动 RDMA GPU 集群按秒计费(2 条相关)→
「Infra」频道最新
- 美国 BIS 新规封堵第三国数据中心远程调用 AI 芯片 — teortaxesTex · 2026-11-16
- Qdrant 1.20.1 发布:冷存储读取减半、量化提速 2 倍 — qdrant_engine · 2026-11-16
- 16GB 显卡本地跑通全套 AI:生图作曲配音视频加 RAG 问答 — llama-of-death · 2026-11-16
- Starlink 在希腊护火车防追尾:134 台机车定位精度达 5 厘米 — XFreeze · 2026-11-16
- Google 将 Agent Substrate、gVisor、OpenRL 捐给 CNCF,Agent 运行底座 1.0 GA — dl_weekly · 2026-11-16
- 英伟达丑闻未完:黄仁勋的千亿美元权力网成焦点 — The Verge AI · 2026-11-16