14.3M 参数通用决策引擎 vega-U:冷接任意冻结 LLM 最高达 0.811 准确率
kalyan_kpl · x · 2026-10-18
embedding.in 团队发布 vega-U:一个仅 14.3M 参数(约 57MB)的「通用决策引擎」,位于共享的 1024 维特征空间中,任何冻结 LLM 只需通过每层一个小线性映射「端口」即可接入,无需再为每个骨干模型单独训练决策层。
- 核心方法:以一个参考模型的标准化特征空间为锚点并冻结其端口,钉死坐标系;每个 reader 的特征在投影前先用自身统计量标准化,防止投影「伪装」映射。
- 成绩:从未共同训练过的 reader 表现反而更好——冷接入的 Qwen3.8-27B 在 held-out 数据上达 0.811 准确率,校准误差 ECE 仅 0.021,50% 覆盖率下准确率 0.976。
- 分基准看,冷接入 27B 在长上下文 0.941、ARC 0.922、MNL U 0.919、jailbreak 检测 0.988。
- 实验在单张 RTX 6000 Pro 上完成,冷接入只需闭式端口拟合 + 短暂微调 + 校准。
「模型」频道最新
- 用户追问 OpenAI 成人模式:承诺一年仍未落地 — ___Patrice___ · 2026-10-18
- Polymarket 开盘押注下一款 Gemini 模型由谁发布 — Polymarket · 2026-10-18
- Grok 一本正经盘点:对亚裔等群体有歧视,对非洲拉美用户没有 — teortaxesTex · 2026-10-18
- 「刷榜式 demo」鉴别法:换用 Mirror's Edge 场景测模型泛化 — teortaxesTex · 2026-10-18
- DeepSeek V4.1 提升非靠蒸馏?榜单显示 OpenAI Luna 仅得 38 分 — teortaxesTex · 2026-10-18
- 爆料称 Gemini 4 复杂任务接近甚至超越 Opus 5.5 — haider1 · 2026-10-18