微调框架对比文纠正 EP 与 CP 的关键误区
StasBekman · x · 2026-07-26
这条是在点评一篇对主流微调框架的对比文章，认为整体上很有参考价值，但也指出了几个关键表述问题。
作者强调，文章里把 EP 和 CP 说成不能组合是不对的；实际上 ALST/SP 可以和 EP 一起用。由于 SP 和 DP 有重叠，在单机上可以做到 EP=8 + SP=8，即使是 30B MoE 模型，也能把上下文拉到 2M。他主要批评的是文章引用“max”数字时，常常没有说明是单卡还是多卡、以及 GPU 规格是什么。
所属事件:主流微调框架对比引争议，并行配置细节被纠错(3 条相关)→
「Infra」频道最新
- General AI 价值正流向链上 AI：从实验室到路由器 — 0xJeff · 2026-07-26
- 学生在树莓派4上用 ARM64 汇编从零实现 YOLO26n 推理 — Forward_Confusion902 · 2026-07-26
- Modular 推出 LLM 推理手册，覆盖批处理缓存和 GPU 部署 — kalyan_kpl · 2026-07-26
- Prompt 缓存比换更便宜模型更省钱 — Illustrious-Bug2105 · 2026-07-26
- 中国 AI 硬件链条需求分化，国内 capex 持续抬升 — teortaxesTex · 2026-07-26
- 论文展示 460 Gbit/s 悬空钽酸锂 MZM 调制器 — jwt0625 · 2026-07-26