fal Serverless 推出集群模式,单域 1000 块 H200 走 RDMA 按需用
isidentical · x · 2026-09-21
fal 的 isidentical 透露正在测试 fal Serverless 新的 cluster mode 功能，可在单个 1000 卡 H200 的 RDMA 域内扩展推理和后训练（post-training），相当于按需租用大型 GPU 集群。fal Serverless 目前运行 1300+ 生产端点，页面显示实时约 895 块 GPU 在用、每秒处理约 190 个请求。作者邀请用户私信试用。
「Infra」频道最新
- 一张 3090 跑 Qwen 27B 自主编码 3 周:交出可用 CUDA 内核 — skeole · 2026-09-21
- Intel CEO 坦言:服务器 CPU 只能满足约一半客户需求 — Beth_Kindig · 2026-09-21
- 实测 exllamav3 3bpw 跑 Flash:单张 5090 达 1500 prefill/29 tps — youcloudsofdoom · 2026-09-21
- SGLang 打补丁跑通 MCP，计算机操作与浏览器智能体可用 — TheZachMueller · 2026-09-21
- 华为发布 Ascend 960 超节点:4096 卡 8 EFLOPS,2027 Q3 交付 — teortaxesTex · 2026-09-21
- Vercel 上中国模型 token 份额三个月涨约 5 倍 — menhguin · 2026-09-21