Unsloth 支持微调 Qwen/Llama 成「决策模型」,小模型替代生成式路由
blaizedsouza · x · 2026-10-09
- Unsloth 新增能力:可将 Qwen、Llama、Gemma 等模型微调成「决策模型」(decision model),输出有界决策而非生成文本。
- 工作方式:模型读取输入与你定义的问题和选项,一个小型决策头对选项打分,返回所选答案及概率。
- 用 LoRA 训练,数据格式简单:输入状态 + 待决策问题 + 标准答案;并在留出数据上做校准,使返回概率更接近真实正确率。
- 用途:路由、分类、策略判断、评估等场景可用更小的专用模型替代生成式 LLM。配套文章演示了用决策模型 Jev 作为数据分析师 agent 的审查层。
「编程与Agent」频道最新
- Meta 提出「智能体可塑性」:衡量自改进 Agent 每美元学到了多少 — omarsar0 · 2026-10-09
- Claude 脚本驱动 AutoCAD,88.6 秒画出 524 元素两层住宅图 — natesiggard · 2026-10-09
- Google Antigravity 开放 Claude 接入,Gemini Enterprise 按量计费 — rseroter · 2026-10-09
- 开源实验:仅改 system prompt 就让编码 agent 成绩波动 10% — yb2698 · 2026-10-09
- AI agent 认证会是下一个大产业吗?从工匠时代到机构化信任 — ThomasBuildLab · 2026-10-09
- Vector Institute实体知识图谱RAG,多跳检索准确率提升54% — VectorInst · 2026-10-09