零训练 PCA 微调:577M 嵌入模型登顶音频榜
Reddit 用户 BrunoHays 在 Google 的 EmbeddingGemma-2(577M)上做零训练实验:仅用 PCA 填补模型 256 维零空间,就将其在 30 个任务的 MAEB 音频基准上的宏分从 49.3% 大幅提升,击败 9B 参数的音频嵌入模型,冲上榜单第一。该方法无需任何训练即可显著增强嵌入模型的多模态能力。
2026-10-28 ~ 2026-10-28 · 2 条相关
- 零训练登顶:577M 小模型借 PCA 填补零空间碾压 9B 音频嵌入 — JeanMichelRanu · 2026-10-28
- 零训练填满 256 维零空间,577M 嵌入模型冲上 MAEB 音频榜第一 — JeanMichelRanu · 2026-10-28