四年微调经验得出结论:LLM 仍写不出《沙丘》级文学文本

kompania · reddit · 2026-11-12

一位从 GPT-3.5 时代跟到现在的本地模型用户,做过大量 QLoRA 微调和 RunPod 上的全参训练,读完英中俄数百个知名微调模型后提出根本质疑:LLM 到底能不能写出好文字?

他的证据:无论 100 epoch 全参微调(lr 1e-7)还是激进 LoRA/QLoRA,结果都只是勉强超过平庸;用自有散文数据集和别人做的数据集都一样。Gemma、Qwen、Mistral、LFM、IBM 及各从零训练的小众模型,长中短篇文本都只比开箱模型略好。科幻也拿不下——连 Harry Harrison《不锈钢老鼠》的直白风格都抓不住,更别提《沙丘》。喜剧、剧情、冒险、言情、历史小说全部趋于平庸。他认为 EQBench 是完全不可靠的指标,其示例文本就是「slop」。结论是:要有文学价值就得自己写,LLM 只用于校对。他正面临为 10 万条记录写描述的任务,纠结 100 到 1 万条样本都没出效果时是否还值得做,并询问是否有人微调出过真正高质量的本地写作模型。

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →