qwen3-4b-deslop 详解:161 条数据训练,68% 输出接近人类写作
lmoroney · x · 2026-10-20
Erik Kannike 完整记录了「把 AI 写作习惯训练掉」的过程:在 MacBook Air 上用 161 条答案微调 Qwen3-4B-Instruct,发布 qwen3-4b-deslop(Ollama 一条命令即可本地运行,2.5GB 下载)。
核心结果:
- 40 个 held-out 提示上千词 slop 分数从 121 降至 12.5,68% 的回答落入人类写作区间;破折号从每千词 20.5 降到 0。
- 30 道事实题仍全对,题材与长度遵从度与原模型相当。
- 中间版本得分更低(9.9)但写得更糟:评论文章没有观点、编造研究、新增「, which」连接每句的怪癖——修复靠新增「答案是否完成提示要求」的任务契合过滤器。
- 局限:文风平淡近乎呆板,仍会编造人名地名。
- 配方与模型规模无关,下一步是在更大模型上复现。
lmoroney 评论指出最值得研究的是任务契合过滤器,并建议写作者先检查答案是否切题,再纠结标点风格。
所属事件:开发者在 MacBook Air 上微调 Qwen3-4B 去除 AI 写作味(2 条相关)→
「模型」频道最新
- LightOn 开源 SOTA 稀疏检索器 SlideOn:174M/339M 两档 — antoine_chaffin · 2026-10-20
- Codex 额度重置引发热议:gpt-6.1-sol 几乎不触发限额,用户盼长期保留 — bytebot · 2026-10-20
- 复旦与上海AI实验室实测 MoE 模型 PEFT 微调:只调专家模块效果最佳 — kalyan_kpl · 2026-10-20
- Reddit 网友观察:新一代模型几乎不再幻觉编造 — LiveNotWork · 2026-10-20
- 26-30B 是最强稠密参数区间?小规模模型派再发声 — auto_grad_ · 2026-10-20
- Opus 4/4.1 面临弃用,研究者警告损害对齐:模型独特性应有实验证明 — Sauers_ · 2026-10-20