让模型「原地重复」:权重循环复用把语音模型压缩 13 倍
pbaylies · x · 2026-10-11
Oruk Labs 团队用权重循环复用(recurrent depth)思路把语音模型大幅压缩:52 层网络改为 2 个共享块反复循环,编码器循环 24 次、解码器循环 28 次,参数量从 2.04B 降到 153M,缩小约 13 倍,而计算量基本不变。
这类做法(类似 looped transformer / recurrent depth)用更少权重、更多串行计算步换取同等能力,对端侧语音模型部署很有参考价值。
「Infra」频道最新
- 黄仁勋不满实验室自研芯片,NVIDIA 或正面迎战前沿实验室 — pzakin · 2026-10-11
- 本地跑 Qwen 27B 换 Flash Next:RTX 5090 用户谈模型升级取舍 — MasterNomie · 2026-10-11
- AirLLM 逐层推理:4GB 显存跑 70B 模型,8GB 可上 405B — JensHonack · 2026-10-11
- 5090+32GB 内存能逼近 Codex 多少？网友求解本地编码智能体配置 — GooseEggs712 · 2026-10-11
- 两张图看懂:近两年训练算力从预训练转向后训练 — japie06 · 2026-10-11
- 推理需求一年暴涨,在后训练/RL 增长曲线上却近乎平线 — zainhas · 2026-10-11