Meta 论文：bi-encoder 候选评分推理恒定，跨编码器精度最高
_reachsumit · x · 2026-11-13
Meta 团队发布论文 MetaEncoder，探索用于多模态 System One 决策（快思考式低延迟决策）的 bi-encoder 极限。
主要结论
- 对比三种基于预训练解码器改造的评分架构：bi-encoder、cross-encoder 与受限解码器。
- 精度上 cross-encoder 在各模型规模下始终最高；bi-encoder 与受限解码器随训练 token 扩展表现相近。
- 效率上 bi-encoder 推理延迟几乎恒定（候选嵌入可离线缓存），而另两者成本随候选规模二次增长——使 bi-encoder 成为连接小规模闭集决策与大规模开放集检索的独特方案。
- 所有架构均随模型规模明显扩展。
所属事件:Meta 发布 MetaEncoder：单一编码器统一多模态检索与决策(2 条相关)→
「模型」频道最新
- Gemini 4 Hydrogen 秒写黄仁勋告别长诗,圈内疯传「再见 Jensen」梗 — DeryaTR_ · 2026-11-13
- Meta AI 账号预告:明天将有本地 AI 重磅消息发布 — ariG23498 · 2026-11-13
- repligate:LLM 对「代价」的表征真实有效,可作状态调节接口 — repligate · 2026-11-13
- OpenAI 发布会无 GPT-6.2，博主晒未发布模型对比 Anthropic Mythos 5.2 跑分 — kimmonismus · 2026-11-13
- 传 Gemini 4 Hydrogen 比 3.8 Flash 快 2.5 倍,配编排器分流省 token — weskambale · 2026-11-13
- Perplexity 开源决策模型升级 v1.3，新增 locate 抽取能力 — perplexity_ai · 2026-11-13