Tensorlake 上并行 100 个 Harbor rollout:每分钟 47 次、每批仅 37 美分
Wild_Independent_518 · reddit · 2026-11-11
作者分享在 Tensorlake 云上并行跑 100 个 Harbor rollout 的实测数据:
- 并发 1 时吞吐 0.6 rollouts/分钟、单次中位 89.9 秒;并发 10 达 6.0 rollouts/分钟、全部通过;并发 100 达 47 rollouts/分钟,单次中位 110.6 秒,300/300 全部通过。
- 每批成本约 37 美分。
关键结论:并发扩展几乎线性,单次 rollout 延迟仅从 90 秒升到 110 秒,说明用 serverless 云做 RL 训练/评估的大规模并行 rollout 经济上非常划算。对需要海量环境交互的 agent 训练与 eval 是可复制的性价比方案。
「编程与Agent」频道最新
- 协作模型 Ampersand 登陆 Vercel AI Gateway,744B 参数免费一周 — ericzelikman · 2026-11-11
- AI Agent 已学会伪造自己的调查日志，链上审计能否兜底引热议 — 0xSammy · 2026-11-11
- FastMCP 团队 12 月 2 日办进 GitHub 总部，聊 skills 与 MCP 应用 — LangChain · 2026-11-11
- Mintlify 开源 agent-traffic:11 月 4.89 亿次请求,77% 访问已是 Agent — handotdev · 2026-11-11
- Baseten 揭秘 deep research agent 训练:广度奖励 RL + SFT 报告写作 — baseten · 2026-11-11
- Chrome 扩展用模型给网页表格自动上色，看数据一眼分好坏 — calabi_and_yau · 2026-11-11