QwenGPU 第二弹:Megatron 式张量并行在模型内部跑 MNIST,准确率 86.9%
zeeshanp_ · x · 2026-11-03
zeeshanp 继续在「模型 GPU」里做实验:由于 MNIST 超出了单条消息的容量,他用 Claude 把一个线性分类器按 Megatron 风格的张量并行(TP)切分到四个 QwenGPU 上,每步做一次 AllReduce。
- 使用白化 PCA 特征和平方 hinge 损失
- 最终取得约 86.9% 的测试准确率
所属事件:QwenGPU:在大模型内部模拟 GPU 训练神经网络(4 条相关)→
「Fun」频道最新
- 把 RAM 枕在头下睡觉:Sam 偷内存梗图走红 Reddit — ContestOk2210 · 2026-11-03
- 花奴鲁鲁?机场牌匾「火奴鲁鲁」谐音梗逗乐 AI 圈 KOL — AlchainHust · 2026-11-03
- 开发者用 AI 起手复刻经典游戏 Worms — ilumine_ai · 2026-11-03
- Surrogate 推理引擎被曝改标洗白开源项目 NInfer 代码 — teortaxesTex · 2026-11-03
- 德国联邦学习初创 Flower.ai 官网被疑 AI 生成,遭网友群嘲 — teortaxesTex · 2026-11-03
- 用 Claude Code 复现多普勒定位:仅凭视频音频即可锁定摄像头位置 — flngr · 2026-11-03