从调和分析视角看 LLM：层数即交互项，Scaling 不会失效

cephaloform · x · 2026-08-11

作者通过数学中的调和分析对大语言模型（LLM）的机制进行了推演，得出了对模型扩展能力充满信心的结论。

作者指出，LLM 的每一层本质上都在生成一组变量间的交互项，类似于基函数。因此，增加模型维度意味着引入更多变量，层数的增加则不断丰富这些交互组合。这种机制并不依赖任何会莫名失效的“魔法”，从数学原理上支撑了 Scaling Law 的持续有效性。