研究:40份开源LLM技术报告仅4份交代多次训练运行
Bahaeddin Türkoğlu · hf · 2026-11-19
一篇系统审视开源权重 LLM 技术报告的研究论文,核心问题:2025 年新增的 48 个 LLM 架构到底新在哪、是否有实验支撑?- 参考代码层面:48 个新架构中 39 个至少三分之二的核心模块借自其他模型(多为 Llama);- 报告层面:73 项架构/训练创新声明中仅 19 项有受控的开关对比消融;40 份报告中仅 4 份说明做了多次训练运行,8 份在同一设置下复跑对比模型,只有 1 份同时披露数据配比、token 数和算力;- 作者检查了 5 个疑似改名旧组件的案例,未发现隐瞒来源。论文提出 7 条报告规范并示范应用于两份报告,明确表示不评判模型质量。
「研究」频道最新
- Boltz Lab 首晒使用数据:分子 token 五个月暴涨 50 倍 — GabriCorso · 2026-11-19
- 研究者质疑 METR/Anthropic「2 倍加速」RSI 论证统计上站不住 — jessi_cata · 2026-11-19
- 用线性探针识别基座模型补全文本时扮演的人格,尚无人尝试 — cephaloform · 2026-11-19
- ETH 机器人 Anymal 阿尔卑斯山完成 10 公里全自主徒步 — ChongZzZhang · 2026-11-19
- OpenVax 代码量 15 个月从 7.8 万行涨到 56.5 万行 — iskander · 2026-11-19
- François Fleuret:decoder Transformer 没有 trade-off 超参,足够优雅 — francoisfleuret · 2026-11-19