LoRA瓶颈续论：信息会流向更多时间步而非丢失
yoavartzi · x · 2026-08-18
延续 LoRA 低秩瓶颈的讨论：用信息论术语粗略地说，被瓶颈挡住的信息会出现在其他时间步里，因为现在时间步更多了；没有瓶颈后，梯度信息能更顺畅地「沿管道向下」传播。
所属事件:社区激辩模型低秩瓶颈是否阻碍信息传播(3 条相关)→
「研究」频道最新
- 新基准 Connections Eval 榜单：Grok 暂居首 — aronchick · 2026-08-18
- 医学 AI 要理由而非答案：RadAgent 作者谈工具型 agent 与医疗推理 — Michael_D_Moor · 2026-08-18
- Latent Spacecraft 项目：GAN 潜空间与人脑语言机制的深层类比 — begusgasper · 2026-08-18
- 编排器+子代理自动做研究，拿下 GPU_MODE 大赛第三名 — _arohan_ · 2026-08-18
- 图因果最优传输与 Wasserstein 距离 — chaumian · 2026-08-18
- 业界批评：模型评测正在沦为「质量洗白」工具 — cocktailpeanut · 2026-08-18