Dnotitia 开源 DNA Factory：只用 5 种训练方法专治「训错了」
likejazz · reddit · 2026-11-10
韩国公司 Dnotitia 开源了内部使用一年多的 LLM 微调框架 DNA Factory（Apache-2.0，基于 TRL + DeepSpeed）。
设计理念：作者咨询过多家自研微调的公司，发现真正训练正确的屈指可数——工具让人能不理解原理就启动训练，错误随之而来。DNA Factory 走「Pythonic」路线，只提供一种经过验证的最佳做法，所有默认值集中在 configs/defaults-.yaml 并逐条注释为何如此设置，用户只覆盖需要改的项。
关键功能：
- token 级 loss-mask 可视化：重写 TRL 的 loss 函数，用 ANSI 颜色标出参与 loss 的 token（蓝）与被排除的 token（灰）。「那个 token 一直在 loss 里？」是最常见的研究错误，这里一眼可见。
- 只保留 5 种训练方法：SFT、DPO、GRPO、OPD、SDFT。砍掉了已少有人用的 PPO，DPO 也计划移除；当前重心是 GRPO 等 on-policy 方法。
OPD（On-Policy Distillation）：逆转经典蒸馏——学生先自己生成答案，教师逐 token 打分（reverse KL），能在学习新知识的同时避免灾难性遗忘。配套的 SDFT 则让模型看到特权上下文后充当自己的教师。
「编程与Agent」频道最新
- 「Claude 说能跑」不是测试：e2e 讲如何验证 Agent 改动 — blaizedsouza · 2026-11-10
- 用户吐槽 Fable 5.2 在 Cursor 中几乎不可用 — IndraVahan · 2026-11-10
- Reddit 用户用 Claude 15 分钟做出一个用脸玩的表情游戏 — Sourcecode12 · 2026-11-10
- 开发者用 AI 一夜生成游戏直播录制剪辑应用，UI 相当精致 — talkaboutdesign · 2026-11-10
- 蚂蚁集团推出 SkinMind：图探针式 Agentic RAG 提升皮肤病 AI 可靠性 — antgroup · 2026-11-10
- Anthropic 等五家大厂开源自家 Agent Skills,20 万星库几乎无人用 — blaizedsouza · 2026-11-10