新路由器 Lakuna:让模型用真实工作流“竞聘”上岗
Due_Hovercraft6497 · reddit · 2026-07-22
开发者认为,当前主流的 AI 路由器仅凭“简单”或“复杂”来提前分配模型并不可靠,因为提示词的难度往往取决于隐藏上下文或专业知识。为此,他正在开发一款名为 Lakuna 的新路由器,核心理念是:模型必须通过用户实际工作的对比测试来“赢得”工作流。
作者规划了详细的迭代路线图:
- V1(个人模型对比):支持连接本地和托管的 OpenAI/Anthropic 兼容端点,保存用户的真实任务作为私有测试集。在相同配置下对比模型,对客观结果使用测试或工具结果验证,对主观结果引入盲测 A/B。
- V2-V4(试听与个性化路由):让候选模型在真实请求中“悄悄”试运行而不改变用户收到的答案。随着数据积累,系统将展示各模型擅长的领域,并在证据充足时自动路由,寻找昂贵前沿模型与廉价本地模型之间的平衡。
- V5(模型改进):利用收集到的偏好和修正数据,指定教师模型对较弱的模型进行微调,并通过回归测试确保每次改进的有效性。
作者目前正以学生身份利用业余时间开发,希望能从有真实本地模型使用经验的用户那里获得关于工作流和评估标准的反馈。
「编程与Agent」频道最新
- 自动化端到端测试器已打通后端整条链路 — blixt · 2026-07-22
- 开发者先用 Lovable 和 AI Studio 做 UI 改造 — rseroter · 2026-07-22
- 将3D高斯溅射搬进浏览器:Grace Cathedral实战教程 — willeastcott · 2026-07-22
- Claude Code 创始人称模型能力又跑在产品前面 — haider1 · 2026-07-22
- Omar Sarar 认为智能体工作流该自己搭编排器 — omarsar0 · 2026-07-22
- AgentVille 把本地 Ollama agent 放进开源像素小镇 — GeraAI_WW · 2026-07-22