Normalized LoRA 提升训练稳定性,不增推理成本
Jiale Kang · hf · 2026-09-01
Normalized Low-Rank Adaptation 通过归一化下投影矩阵来稳定 LoRA 训练。该方法在无需额外参数或增加推理成本的情况下,加速了收敛并提升了性能。
「研究」频道最新
- IBM 提出视觉文档检索套娃训练,一次编码支持多级压缩 — _reachsumit · 2026-09-01
- Doc-REFRAG:粗压缩再选择性展开,多图 RAG 又快又准 — _reachsumit · 2026-09-01
- 谷歌发布 RSLM 量化,无需训练压缩嵌入至 1-4 比特 — _reachsumit · 2026-09-01
- CHAP 框架实现个性化生成式检索,单次推理降低延迟 — _reachsumit · 2026-09-01
- 阿里联合训练嵌入与码本,提升电商生成式检索精度 — _reachsumit · 2026-09-01
- 阿里提出 PAO 优化法,RL 微调语义检索防嵌入塌陷 — _reachsumit · 2026-09-01