kalomaze 炮轰架构对比基线:质疑 hnet 有效深度与 wall clock 缺失

知名研究者 kalomaze 对以 hnet 为基线的架构对比提出技术质疑:hnet 基线疑似含约 8 层以上串行 mamba 块且未报告真实形状,参数重新分配后实际有效深度明显变化,同时未报 wall clock 时间。他进一步批评称,到 2026 年 10 月,BLT 这类已问世约两年的方案不应再作为 baseline 参与对比,并在讨论 cross-attention 架构时直言「没信念才用 cross attn」,措辞激烈引发社区关注。

2026-10-29 ~ 2026-10-29 · 3 条相关