Nudge:零微调让小模型用反馈学习决策,RouterBench 提升 14.8%

sockpuppet17263 · reddit · 2026-10-17

开源 Python 库 Nudge 叠在 Jev、Rune 这类 System One 模型之上,通过记录每次决策结果来影响模型后续选择——不微调、不用 GPU,只靠一个 SQLite 文件。

工作原理:每次调用记录模型给出的概率与所选选项,事后汇报结果即可;为了让模型区分不同情境,Nudge 让 LLM(或人工)针对已读文本生成是非题/1-5 分题/选择题,区分度不够的问题会被丢弃;在概率和答案上拟合每个选项的贝叶斯线性模型,用 Thompson Sampling 选择,并保留 5% 探索下限避免永久排除任何选项。

在 RouterBench(5000 条真实 prompt,按质量减成本路由选模型)上,Rune 单独得 0.581,加 Nudge 后 0.667,提升 14.8%。目前为 v0 研究软件,团队也在内部流程中使用。安装:pip install nudge-policy。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →