开发者实测:新嵌入方法效果不如 SAE 但 qualitatively 更有趣

mayfer · x · 2026-10-23

mayfer 在回复 nickcammarata 时分享:他尝试的一种嵌入表示方法在 benchmark 上落后于 SOTA 嵌入检索模型,实际效果却胜过他过去用过的基于稀疏自编码器(SAE)的方案;虽然性能不占优,但这种方法在质性上截然不同、居然能工作本身就很值得继续研究。

所属事件:开发者用抽象神经元激活组合嵌入向量,抗拼写干扰更稳(4 条相关)→

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →