踩坑提醒:DeepEP 与 RoCE 组合不可用
TheZachMueller · x · 2026-09-03
一条简短但具体的经验教训:不要把 DeepEP(DeepSeek 开源的 MoE 通信库)与 RoCE(RDMA over Converged Ethernet)搭配使用,作者用「Not even once」强调踩坑程度之深,并称正在重新跑一些 benchmark 以验证影响。
对在以太网环境下部署 MoE 训练/推理通信栈的团队是一个直接的避坑信号。
「Infra」频道最新
- Reliance Jio 推云电脑 JioPC,每天 11 卢比虚拟一台 PC — NirantK · 2026-09-03
- Arm CEO 对谈:从 IP 授权到造芯,CPU 仍是 AI 时代心脏 — No Priors · 2026-09-03
- 开源项目 ARBR:给多模型流量加路由与治理层,自动降本不掉质 — Genie-Tickle-007 · 2026-09-03
- Arm CEO 做客 No Priors:从 IP 授权转向造芯,为 Meta 打造 AGI CPU — No Priors · 2026-09-03
- 4060 Ti 16GB 跑 27B 模型 6-7 t/s,本地推理还能怎么榨速度 — thatoneshadowclone · 2026-09-03
- ClickHouse CEO:Agent 查询模式不可预测,延迟成可观测性关键 — bibryam · 2026-09-03