一种免微调方法可对齐异构 LLM embedding 用于路由
Super_Designer7952 · reddit · 2026-07-26
这条 Reddit 讨论介绍了一种无需微调、即可对齐异构 LLM embedding 空间的方法。
- 作者面向的是混用 Llama、Mistral、Phi 等模型的去中心化多智能体系统。
- 方法核心是先构造一组固定文本锚点，用 Löwdin 对称正交化处理后，把不同模型的输出映射到同一个锚点空间。
- 接着对相似度向量做标准化，再用 cosine distance 做跨模型任务路由。
- 这套做法的目标是避免改权重、缓解 embedding 各自成团的问题，并让任务分配更精确。
「编程与Agent」频道最新
- Hermes 内置技能可一键安装开源 Obliteratus 工具 — Teknium · 2026-07-26
- YC Startup School 2026 把 Markdown 讲成可执行工作流 — ycombinator · 2026-07-26
- 用户称 Codex 会拖爆 SSD，Teknium 转推 Hermes Agent — Teknium · 2026-07-26
- 用户开始把编程工具分成规划、实现、迭代和前端四类 — nijfranck · 2026-07-26
- ChatGPT 跑了一整晚 prompt，尝试自动化模型构建 — burhop · 2026-07-26
- CCAR-P 考的是架构决策，不是背 API — Mauve_Tess · 2026-07-26