Greenblatt称新模型深度三倍跃升源于架构而非参数堆叠

前 Anthropic 研究员 Ryan Greenblatt 在 X 上与 xuanalogue 讨论 OpenAI 新模型推理能力的来源。他依据 Jakub 所称「参数量在 GPT-4 的 2 倍以内」推断，推理深度 3 倍的提升主要来自循环 Transformer 等架构变化而非常规算力扩展，并推算若按开放权重模型的缩放趋势，仅靠参数扩展实现同等深度约需 81 倍参数。xuanalogue 则对该换算的数学依据提出质疑，双方就循环深度与参数扩展的等价关系展开交锋。

2026-09-04 ~ 2026-09-04 · 4 条相关

• Greenblatt：模型深度 3 倍跃升来自架构而非算力堆叠 — RyanGreenblatt · 2026-09-04
• 循环深度 3 倍增益,相当于参数扩 81 倍的架构讨论 — xuanalogue · 2026-09-04
• 深度增 3 倍≈参数增 3 倍?质疑者挑战 81 倍换算 — xuanalogue · 2026-09-04
• 深度增 3 倍参数暴涨 81 倍?Greenblatt 谈缩放架构的隐含代价 — RyanGreenblatt · 2026-09-04