LLM每层都是变量交互项，扩展维度即增加变量
cephaloform · x · 2026-08-11
作者在回复中提出，LLM的每一层都是变量之间的交互项，更高的维度意味着更多的变量，因此扩展性不会因神秘原因失效。同时指出唯一的大问题是简单特征如何完整传递到最终层，最笨的解法是将所有残差拼接成超高维张量再输入lm-head。
「研究」频道最新
- Dyna Robotics发布Dyna-2:百万小时人类视频预训练 — JasonMa2020 · 2026-08-11
- Biotech创业指南:如何用LLM加速药物发现 — juanbenet · 2026-08-11
- 论文速递:增强视觉表征的双分支VIO框架 — rsasaki0109 · 2026-08-11
- 论文提出「具身劫持」假说：解释为何人类对 AI 产生拟人化错觉 — MacrinePhD · 2026-08-11
- 计算化学平台 Rowan 发布性能优化：分子 DFT 与溶解度计算提速 — CatAstro_Piyush · 2026-08-11
- GPT-5 称改进了黎曼假设证明，提升 0.002% — I_HALF_CATS · 2026-08-11