用掩码解码驯服 Gemma 3 12B 文字排版，Lora+RL 控制行长
cephaloform · x · 2026-11-14
开发者 erinbeess 分享了一个控制 Gemma 3 12B 生成文本版式的技巧：在解码阶段做 masked decoding，如果某个 token 的长度不符合预期就直接将其掩掉，从而避免生成文本中出现参差不齐的「文字河流」(text rivers)。
具体做法包括：
- 解码时按 token 长度做掩码过滤，逐个剔除不合规的 token
- 额外训练了一个 LoRA,加入宽度标签(width tags),让模型感知文字长度
- 之后再做一致性方向的 RL 微调
配图展示了处理后的文本排版效果，行长均匀、无明显重复堆叠。这是一个可直接借鉴的开源模型解码控制玩法。
「模型」频道最新
- Edge0-145B 冲上 Hugging Face 热榜：145B MoE 架构主打端侧推理 — Edge0 · 2026-11-14
- Drex Max v1.1 登顶 Artificial Analysis 决策指数，价格仅为第二名七成五 — JaynitMakwana · 2026-11-14
- XERJ Reader-1 发布：神经符号混合文档解析，每百万 token 仅 0.01 美元 — socialwithaayan · 2026-11-14
- 实测 Gemini 完全认不出 AI 生成图：检测能力被质疑 — Less-Ice2477 · 2026-11-14
- 最新 LLM 未必是最佳企业选择：基准测试漏掉真实权衡 — DavidLinthicum · 2026-11-14
- ChatGPT 回复里直接弹出免责声明，还点名引用了信息来源 — lilyraynyc · 2026-11-14