开发者计划用 SFT 把 Qwen 4B 调成专用编码 Agent,先建 100-200 个迷你 SaaS 训练
ConfidentDinner6648 · reddit · 2026-11-07
Reddit 用户 ccore(此前发布过 3D Coder 与 GLB 3D Coder 两个 4B 模型)发帖征求社区意见,准备把 Qwen 3.5 4B 预训练模型微调成专用的 agentic coding 模型。
核心观点
- 训练 3D Coder 时原计划 SFT 后再用 DPO/GRPO 做 RL,但高质量 SFT 单独就产生了超预期的泛化:模型能生成复杂 Three.js 场景、体素结构,输出超过 64K token,甚至包括训练集没见过的场景。
- 作者假设:把强模型已验证的能力迁移到小模型,比让小模型通过 RL 重新发现这些能力便宜得多;数据质量与一致性远比 token 数量重要。
- 提出小模型不应追求全领域通用,而应在日常高频任务上做到极致(像家用车不必越野)。
实验计划
- 初期围绕 100–200 个功能完整的迷你 SaaS 应用,覆盖开发、测试、调试、维护任务。
- 有效则扩展到约 10 万条验证过的多轮轨迹,横跨 30–40 个子领域(React/Vue/Next.js、Python/Node.js 后端、游戏与 3D 等)。
- 测试发现原始 4B 已能搭 Vite 项目、装依赖、执行命令,只是不稳定。
「编程与Agent」频道最新
- 你的编码 Agent 正在替你做产品决策:一条 prompt 让它自曝 — alvelda · 2026-11-07
- NYU 教授:Claude 学会用我的代码画图,起稿快到我只需专注精修 — alfcnz · 2026-11-07
- Google 团队证实 AI 挖洞工具 Hacktron 已提交高危漏洞 — ithilgore · 2026-11-07
- Stardock CEO:多模型编排只是起步,团队级共享数据才是 AI 工作流关键 — draginol · 2026-11-07
- 用 Claude 自动修正 LaTeX 图版偏移,作者直呼“无痛到离谱” — alfcnz · 2026-11-07
- vmfunc 展示原生反汇编器 Reflet,界面截图文泄露细节 — amplifiedamp · 2026-11-07