探讨填充令牌、层数与递归对模型计算复杂度的影响
gleech · x · 2026-09-02
帖子讨论了填充令牌、更多层数和递归如何影响模型计算。填充令牌增加宽度而非深度,受限于 TC0 类;而完整的递归增加了串行深度,超出了 TC0 的范围。这表明两者在计算能力上存在本质区别。
「研究」频道最新
- 新理论:递归临界数决定 AI 自我改进是否爆发 — Mikhail Burtsev · 2026-09-02
- 微软论文:滑动窗注意力无需训练即可省显存 — rohanpaul_ai · 2026-09-02
- AndroidWorld 揭秘:为何手机 Agent 基准测不准? — East-Muffin-6472 · 2026-09-02
- Bregman 散度与指数族的对偶性统一 — FrnkNlsn · 2026-09-02
- 新论文提出递归 Transformer:层参数共享压缩模型 — max_paperclips · 2026-09-02
- 前 OpenAI 员工解析循环 Transformer:固定循环有效,动态循环不可靠 — max_paperclips · 2026-09-02