模型算力该花在更好 KV 而非逐 token 解码
YouJiacheng · x · 2026-11-21
YouJiacheng 在引用 @xidulu 的自我纠错推文时提出一个架构层面的判断:算力/复杂度的投入更应该用于改进对上下文的理解(更好的 KV cache 机制),而不是花在逐 token 的解码生成上。原引用者 xidulu 承认自己此前关于该话题的看法是错的,但未展开具体讨论内容。
「研究」频道最新
- 物理学者发问:Lean 形式化证明为何比期刊论文更遭嫌弃 — IAmTimNguyen · 2026-11-21
- 数学家:幸有 Lean 验证,否则 RH 证明会是 25 万页灾难 — AlexKontorovich · 2026-11-21
- LeCun:20 年深度学习课的内核就是能量模型统一框架 — ylecun · 2026-11-21
- 数学家 Bessis:AI 千行 Lean 证明将摧毁「定理经济」 — beenwrekt · 2026-11-21
- Nathan Lambert 发布后训练六大开放问题讲稿,并阐明 Trillium Labs 目标 — natolambert · 2026-11-21
- AI 辅助证明黎曼猜想疑被拒菲尔兹奖,引发数学界激烈争论 — GiorgioPatrini · 2026-11-21