四台 M5 Ultra Mac Studio 撑 100 人推理,靠谱吗?
Short_Report5589 · reddit · 2026-09-02
发帖人计划部署四台 M5 Ultra Mac Studio,为一支最多 100 人的团队提供本地推理服务(通过 OpenClaw 使用),无其他负载,日常驻场约 30-40 人、高峰并发 80-90 人。模型候选是 Qwen3 27B 或 Qwen3 Next Flash,发帖人想知道这个配置能否扛住并发,以及现实中该选什么规模的模型。
所属事件:团队探讨四台 M5 Ultra Mac Studio 能否支撑百人推理服务(2 条相关)→
「Infra」频道最新
- 双 GPU 本地跑 DeepSeek V4 Flash 达 1400 tokens/秒修复 iOS bug — HankYeomans · 2026-09-02
- 从 eval 到 SFT 再到 vLLM 调优,一手复盘为大客户省推理成本 — dhruv2038 · 2026-09-02
- Nvidia 每吉瓦收入从 180 亿涨至 400 亿美元,赌注是成为 AI 架构本身 — coinfanking · 2026-09-02
- Nebius 密苏里数据中心:先还清 27 万美元学餐债再动工 — demian_ai · 2026-09-02
- 四台 M5 Ultra Mac Studio 想撑 100 人用 Agent,可行吗? — Interesting-Print366 · 2026-09-02
- 创业公司吐槽:OpenAI/Anthropic 提额申请数月无人理 — Ok_Philosophy_4031 · 2026-09-02