Deft 发布:用分布微调修复 LLM 公式化写作
HamelHusain · x · 2026-08-20
Deft 是一个专注于改善 AI 写作的新模型和实验室。其研究论文指出,标准的 SFT(监督微调)会导致模型输出过于公式化(slop signs),过度使用特定 token 或短语。
Deft 提出了分布微调(DFT)算法,这是一种后训练步骤,能使模型输出分布更好地匹配训练数据分布。实验显示,DFT 将 MMD 改善了 49%,JMQ 改善了 63%。该模型在创造力、连贯性和清晰度上均有显著提升,且在 Pangram 检测中获得了 100% 的人类写作评分。
所属事件:AI 写作实验室 Deft 发布公测模型,宣称 86% 输出被 Pangram 判为人写(15 条相关)→
「研究」频道最新
- 移除 Gemini 后相关性从 0.20 升至 0.96:通用能力与机器人能力高度挂钩 — ycombinator · 2026-10-16
- EPFL 用 RFdiffusion 设计变形蛋白,单序列可折叠两种构象 — ferruz_noelia · 2026-10-16
- 通过操纵「地位感」观察模型行为,作者续谈夺权反事实推断 — jd_pressman · 2026-10-16
- 新基准测「对齐伪装」模型:五种检测法中一种识别率高达 98% — jd_pressman · 2026-10-16
- MLP 神经元可解释性六年研究脉络:一帖梳理关键论文 — aryaman2020 · 2026-10-16
- 新组首篇预印本:预测性网格细胞编码无需显式规划 — tweetsatpreet · 2026-10-16