Sakana AI 新法训练 LLM:内存降 3 倍,性能几无损
bycloud · youtube · 2026-08-18
Sakana AI 发布新研究 DiffusionBlocks,提出一种训练大语言模型的新方法。该技术可在模型性能几乎无损的情况下,将训练显存需求降低 2-3 倍,在极端设置下甚至能降低 4-6 倍。这对显存受限的开发者具有重要意义。
「研究」频道最新
- 移除 Gemini 后相关性从 0.20 升至 0.96:通用能力与机器人能力高度挂钩 — ycombinator · 2026-10-16
- EPFL 用 RFdiffusion 设计变形蛋白,单序列可折叠两种构象 — ferruz_noelia · 2026-10-16
- 通过操纵「地位感」观察模型行为,作者续谈夺权反事实推断 — jd_pressman · 2026-10-16
- 新基准测「对齐伪装」模型:五种检测法中一种识别率高达 98% — jd_pressman · 2026-10-16
- MLP 神经元可解释性六年研究脉络:一帖梳理关键论文 — aryaman2020 · 2026-10-16
- 新组首篇预印本:预测性网格细胞编码无需显式规划 — tweetsatpreet · 2026-10-16