研究者提出「计算深度」是被忽视的 LLM scaling 轴

industriaalist 团队提出「计算深度」(computational depth)是被严重低估的 scaling 轴。过去几年,参数量、数据、稀疏度、测试时推理等维度都被放大了多个数量级,但网络深度自 GPT 时代以来几乎没有增长。研究者认为大语言模型因此严重受深度瓶颈限制,深度是亟待开发的新扩展维度。

2026-09-23 ~ 2026-09-23 · 2 条相关