AttnRes 能否继续扩展
teortaxesTex · x · 2026-07-15
这条是在转述一个研究/实验结论：有人提到在**不使用 DSA** 的情况下，把参数翻倍、增加更多 token，其他条件几乎保持接近；发帖者表示自己也认同这个方向，并希望 **AttnRes** 能证明自己在扩展时仍然有效。 信息点主要是： - 讨论的是一个名为 AttnRes 的技术路线 - 核心关注点是它在 scale up 时是否还能稳定成立 - 引用内容强调了“更大参数量 + 更多 token + 其余设置接近”的实验对照思路