用「抽象神经元」激活拼出嵌入向量:拼写干扰更小、向量数学更稳
mayfer · x · 2026-10-23
作者受 @nickcammarata「already clean」一文启发,构建了一个嵌入引擎:不直接用文本编码,而是由常见抽象概念对应的神经元激活组合出向量。实测(基于 top 1 万英文词)显示它在嵌入数学(加减类比等)上表现更一致,受拼写和格式干扰更小、更聚焦于抽象概念本身。效果并非总是更好,但整体至少打平,且没有出现返回垃圾结果的崩溃情况。
所属事件:开发者用抽象神经元激活组合嵌入向量,抗拼写干扰更稳(4 条相关)→
「研究」频道最新
- 新论文:多级蒙特卡洛加速贝叶斯逆问题的序列熵最优传输方法 — chaumian · 2026-10-23
- 声波+舌部电刺激双模调控,体验者称慢性耳鸣基本消失 — nwilliams030 · 2026-10-23
- ALPS:统一语言、重建与空间对应的视觉状态编码器,LIBERO 成功率 85.5% — yuyinzhou_cs · 2026-10-23
- 科学美国人揭秘 OpenAI 百万美元数学证明背后的故事 — scientificamerican · 2026-10-23
- UCSC 等发布 ALPS 编码器:一套视觉 token 统一状态、语言与像素 — cihangxie · 2026-10-23
- 用 EmbeddingGemma 2 做语音转写:1 小时音频本地 13 秒完成 — GlennCameronjr · 2026-10-23