kalomaze 批评 BLT 基线:层数不匹配 FLOPS 且不报 wall clock
kalomaze · x · 2026-10-29
kalomaze 回应关于混合架构对比基准的讨论,提出两点批评:
- 到 2026 年 10 月,BLT 这类方案不应再作为 baseline 级别——已经出现约两年,类似「单独训练、用难看的 cross attention 拼接」的启发式做法已失去吸引力
- hnet baseline 实际上多出约 8 层以上的串行 mamba 块(真实形状未披露),这种层重配显著改变了有效深度,导致在同 FLOPS 下深度并未对齐;而且他们不报告 wall clock 时间
核心观点:当前架构对比研究在深度匹配与实际延迟报告上存在方法漏洞。
所属事件:kalomaze 炮轰架构对比基线：质疑 hnet 有效深度与 wall clock 缺失(3 条相关)→
「研究」频道最新
- 新研究挑战 JEPA 特征保留假说：不可预测特征也会被保留 — andreea7b · 2026-10-29
- SREGym 将在 Bench Summit 首发，瞄准 AI SRE 基准前沿 — tianyin_xu · 2026-10-29
- AA-Robotics 基准出炉:GPT-6 Astra 操控机械臂登顶,仍比人类慢近百倍 — ArtificialAnlys · 2026-10-29
- Delta-Matching 打通全 FP8 注意力训练:七个核心矩阵乘全部 FP8,loss 追平 BF16 — songhan_mit · 2026-10-29
- RFD4-Proteina 上架 Hugging Face,AI for Science 十月盘点发布 — AllThingsApx · 2026-10-29
- Google 发布 PLE 基准:85 项真实工程任务,最强 agent 仅 50.6 分 — rohanpaul_ai · 2026-10-29