kalomaze 质疑 hnet 基线:有效深度不匹配且未报 wall clock
kalomaze · x · 2026-10-29
kalomaze 对一项以 hnet 为基线的架构对比提出技术质疑：hnet 基线似乎有约 8 层以上的串行 mamba 块（真实形状未报告），使得重新分配参数后实际有效深度发生显著变化，因此并未在同等 FLOPS 下匹配深度。
他还指出更深层的问题：训练过程中计算单元大小会变化本身就难以公平比较（这是 hnet 早期的老毛病，难以在等效 bpb + FLOPS 下对比），并批评对方没有报告 wall clock 时间。
所属事件:kalomaze 炮轰架构对比基线：质疑 hnet 有效深度与 wall clock 缺失(3 条相关)→
「研究」频道最新
- Tinker 推出 LoRA 微调优化器 Dimuon，SFT 少步数即超 AdamW — xennygrimmato_ · 2026-10-29
- 3DGS 训练再提速 1.78×：6 项 CUDA kernel 优化逼近硬件上限 — gkopanas · 2026-10-29
- LLM 跨语言效应研究获 EMNLP 2026 杰出论文奖 — anas_ant · 2026-10-29
- 把测谎仪编进权重:Qwenputer 实测标记 91% 谎言零误报 — teortaxesTex · 2026-10-29
- 从业者观点：如今的头部厂商几乎没人直接在测试集上训练 — nrehiew_ · 2026-10-29
- 学者公开批评 OpenAI 杨-米尔斯证明仅向小圈子开放材料 — anshulkundaje · 2026-10-29