SFTMill 开源:用 OpenAI 兼容端点做离策略蒸馏造微调数据
jjusko20 · reddit · 2026-09-30
作者开源了 SFTMill,一个通过 OpenAI 兼容端点对任意现有 LLM 做 off-policy 蒸馏的工具,用于把行为目标变成完整训练数据集。它源自作者微调自己 AliceAI 80B A3B 项目的内部工具。
工作流:
- 用 YAML 定义「课程表」,如训练 agent 模型需要工具调用、修 bug、工作区操作、错误追踪等能力
- 由 LLM 根据课程表生成任务
- 被蒸馏的教师模型逐题解决,产出覆盖微调目标的完整问答数据集
作者建议任务生成至少用 Qwen 3.8 27B(medium 档),更弱的模型质量不够。仓库文档完善,含多轮混合推理数据格式示例,可快速上手。
「编程与Agent」频道最新
- 同实验再析:禁止编排模型写码,GPT-6.1 Sol 成本再降 77% — GapNew4766 · 2026-09-30
- 开源 agent 实测:云模型做规划+本地 Qwen 写码,成本降到 1/4 — GapNew4766 · 2026-09-30
- 8 个研究 agent 用同一 30B 基模自学 144 小时，直播检验后训练能力 — my_cat_can_code · 2026-09-30
- OpenAI Nan Yu：老板 agent 指挥一群 agent 是自欺，应按活动分束管理 — victor_explore · 2026-09-30
- 开源 MCP 工具:让 Claude 直接查询 TikTok 千亿级数据 — operatorarkay · 2026-09-30
- 开发者观点:真正的 always-on 常驻智能体从未被尝试过 — jacob_posel · 2026-09-30