零训练 PCA 微调:577M 嵌入模型登顶音频榜

Reddit 用户 BrunoHays 在 Google 的 EmbeddingGemma-2(577M)上做零训练实验:仅用 PCA 填补模型 256 维零空间,就将其在 30 个任务的 MAEB 音频基准上的宏分从 49.3% 大幅提升,击败 9B 参数的音频嵌入模型,冲上榜单第一。该方法无需任何训练即可显著增强嵌入模型的多模态能力。

2026-10-28 ~ 2026-10-28 · 2 条相关