四年微调经验得出结论:LLM 仍写不出《沙丘》级文学文本
kompania · reddit · 2026-11-12
一位从 GPT-3.5 时代跟到现在的本地模型用户,做过大量 QLoRA 微调和 RunPod 上的全参训练,读完英中俄数百个知名微调模型后提出根本质疑:LLM 到底能不能写出好文字?
他的证据:无论 100 epoch 全参微调(lr 1e-7)还是激进 LoRA/QLoRA,结果都只是勉强超过平庸;用自有散文数据集和别人做的数据集都一样。Gemma、Qwen、Mistral、LFM、IBM 及各从零训练的小众模型,长中短篇文本都只比开箱模型略好。科幻也拿不下——连 Harry Harrison《不锈钢老鼠》的直白风格都抓不住,更别提《沙丘》。喜剧、剧情、冒险、言情、历史小说全部趋于平庸。他认为 EQBench 是完全不可靠的指标,其示例文本就是「slop」。结论是:要有文学价值就得自己写,LLM 只用于校对。他正面临为 10 万条记录写描述的任务,纠结 100 到 1 万条样本都没出效果时是否还值得做,并询问是否有人微调出过真正高质量的本地写作模型。
「模型」频道最新
- 开发者吐槽:LLM 分析能力强,生成的报告结构却很糟糕 — rickasaurus · 2026-11-12
- Every 实测:Fable 5.2 能通宵独自建产品,按任务成本选模型更划算 — every · 2026-11-12
- 开发者吐槽换用 Gemini 后 ChatCut 剪辑点明显变差 — yihui_indie · 2026-11-12
- 开发者吐槽:论幻觉问题,Gemini 没有任何模型能出其右 — prasenx · 2026-11-12
- 开发者称 gpt-oss 是他最爱的现代 Transformer 架构 — qtnx_ · 2026-11-12
- 用户实测:ChatGPT 疑似按会话路由到更新的 6.2 Sol 模型 — SuperAngryGuy · 2026-11-12