CEO亲自上手修复 sonic-moe 内核索引溢出Bug
rosstaylor90 · x · 2026-08-15
GeneralReasoning (GenReasoning) 的 CEO Ross Taylor 分享了他过去 48 小时的经历：调试训练-推理不一致问题，最终在 sonic-moe 的内核中发现了一个 Bug。
- 问题背景：在 120B 混合专家模型上进行 RL 时出现 train-inference mismatch。
- 根本原因：回传路径中的 db2/ds kernel 存在索引溢出问题。当 $T \times H \ge 2^{32}$ 时，uint32 类型的索引会发生回绕，导致数据损坏。
- 解决方案：将回传路径的 tokenindices 和 scatterindices 类型修正为 int64，完成了之前 Issue #23 中仅针对前向路径的修复。
- GitHub PR：已提交 Pull Request #70 至 Dao-AILab/sonic-moe 仓库。
所属事件:GenReasoning CEO 亲修 sonic-moe 内核 Bug(2 条相关)→
「Infra」频道最新
- 网友求购二手 A100 显卡 — beffjezos · 2026-08-15
- AI 发展遇物理瓶颈：算力受限于土地与电力 — r0ck3t23 · 2026-08-15
- Oracle 新墨西哥 AI 数据中心输气管道延期至 2027 — Polymarket · 2026-08-15
- 开源 Core AI 模型库支持苹果设备本地运行 — amos_gyamfi · 2026-08-15
- 黄仁勋宣布与贝莱德等巨头合作，打造AI工厂基础设施新资产类别 — ___Mufasaa · 2026-08-15
- 研华推 AFE-A702 边缘设备，搭载 Thor 同步 8 路深度相机 — chrismatthieu · 2026-08-15