用「抽象神经元」激活拼出嵌入向量:拼写干扰更小、向量数学更稳

mayfer · x · 2026-10-23

作者受 @nickcammarata「already clean」一文启发,构建了一个嵌入引擎:不直接用文本编码,而是由常见抽象概念对应的神经元激活组合出向量。实测(基于 top 1 万英文词)显示它在嵌入数学(加减类比等)上表现更一致,受拼写和格式干扰更小、更聚焦于抽象概念本身。效果并非总是更好,但整体至少打平,且没有出现返回垃圾结果的崩溃情况。

所属事件:开发者用抽象神经元激活组合嵌入向量,抗拼写干扰更稳(4 条相关)→

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →