Matryoshka 套娃模型:子模型可调宽深
nthngdy · x · 2026-08-19
在 Matryoshka 套件中,每个子模型将其输出馈送给对应下一个子模型的层堆栈,以此类推。与过去的工作不同,该设计允许每个子模型具有可调节的宽度和深度,为内存和计算占用提供了巨大的设计空间。
所属事件:Matryoshka LM Suites:嵌套一次训练产出整套模型(8 条相关)→
「研究」频道最新
- 把快程序编译成慢神经网络?开发者吐槽这类实验实用价值存疑 — ctjlewis · 2026-10-16
- 新论文提出用显示偏好法辨析 AI Agent 合作的动机 — brwilder · 2026-10-16
- 用 logit lens 透视 Beat Saber 微调模型:音符生成复用语言语法回路 — ctjlewis · 2026-10-16
- 128×128 记录难破:中间步骤实验如何预言了推理模型 — ctjlewis · 2026-10-16
- TeamFusion 研究:用偏好代理互搏替代 AI 总结,保住团队少数派声音 — burkov · 2026-10-16
- MIT 推出 C-GMT:人形机器人全身柔顺响应,不再硬抗外力 — MIT_CSAIL · 2026-10-16