bekko-static-embedding-v1 发布:无 Transformer 检索SOTA,CPU 快百倍
tomaarsen · x · 2026-10-21
hotchpotch(Yuichi Tateno)发布多语言静态嵌入模型 bekko-static-embedding-v1:完全去掉 Transformer 层,只做 token 查表 + 平均池化,无需 GPU,CPU 上比 multilingual-e5-small 快 100-400 倍(可达每秒 10 万句)。
关键数据:
- 在静态嵌入模型中检索 SOTA:MNanoBEIR 多语言检索 43.76,领先第二名约 11 分;英文 NanoBEIR 53.71,超过英文-only 静态模型
- MMTEB 131 个任务平均 50.18,检索任务已逼近 12 层 Transformer 模型 multilingual-e5-small(差距约 1 分)
- 技术:自定义 200k 词表 tokenizer,用约 8.14 亿文本对、40 种语言、batch size 16384 对比训练
「模型」频道最新
- Opus拒绝做游戏奇幻暴力内容,开发者转头换DeepSeek干活 — QuixiAI · 2026-10-21
- 16GB显存求推荐:本地跑Agent的模型选谁? — SLTGAMER · 2026-10-21
- 用户吐槽 OpenAI 桌面端:长会话加载慢,报错重启越来越频繁 — koltregaskes · 2026-10-21
- Meta Wonder 发布一周仍未见安全报告,引安全圈质疑 — ShakeelHashim · 2026-10-21
- GitHub 公开提交现 Anthropic「Fable 5.5」署名,疑似新模型已被合作方试用 — mark_k · 2026-10-21
- 55.8 万次评测揭示:视觉语言模型在特定子任务上越放大越差 — UniversityOfEdinburgh · 2026-10-21