智谱唐杰长文解析 Scaling Law:参数量之外还有新旋钮
智谱唐杰撰文《Thoughts About Scaling Law》深度解析扩展法则的演变:早期 Kaplan 法则导致参数过度扩张,Chinchilla 将计算最优比例修正为 20:1,而推理成本上升与 MoE 架构进一步重塑最优比例。团队还以 GLM-5.3 作为受控实验,在保持与 GLM-5.2 相同基座、架构、总参数与激活参数的条件下验证相关结论,说明参数量之外仍有关键调节手段。
2026-08-19 ~ 2026-08-19 · 2 条相关
- 智谱唐杰谈扩展律:推理与 MoE 如何重塑最优比例 — jietang · 2026-08-19
- 智谱 GLM-5.3 官方长文:参数量之外,Scaling Law 还有别的旋钮 — pmttyji · 2026-08-19