Q Labs：计算深度是缺失的 scaling 轴，LLM 深度停滞百层

Q Labs Research 发布报告《Computational depth is all you need》，提出「计算深度」是被忽视的 scaling 轴：过去几年参数量、数据、稀疏性与测试时推理都扩展了多个数量级，但自 GPT-3 以来六年前沿模型的网络深度一直停留在约 100 层。研究认为当前 LLM 深度严重受限，实验显示网络加到 128 层时性能仍在持续改进，暗示深度扩展或成为模型能力提升的新方向。

2026-09-23 ~ 2026-09-24 · 4 条相关

• 研究者称模型深度被严重低估，是缺失的 scaling 轴 — madhavsinghal_ · 2026-09-23
• 研究者称计算深度是缺失的 scaling 轴，网络深度自 GPT-3 起停滞百层 — burny_tech · 2026-09-24
• Q Labs 研究:LLM 深度严重受限,128 层仍在持续改进 — rickasaurus · 2026-09-24

另有 1 条近重复转述:burny_tech