Mine, Sample, Render: Test-Time Diversity Alignment Of Generative Models
Kostas Triaridis, Morris E. Sharp, Nebojsa Jojic
cs.AI, cs.LG
2026-10-15
免训练的 MSR 从真实语料挖属性、按统计采样再渲染，文生图 Vendi 从 4.3 提到 6.7,五个任务多样性全升。
生成模型单次输出质量已经很高，批量采样却千篇一律。同一句 prompt 让 GPT-5.5 做十个网页，版式高度相似；让 GPT-6 Astra 独立跑二十次「做一把能折叠的 3D 椅子」，设计选择反复落在同一小圈里。调温度、在 prompt 里写「请多样一点」都没用，因为这些做法没说要变什么、多常变、哪些组合合理。奖励最大化的后训练还会加剧收敛，把样本进一步压到高分模式附近。单条输出再协调正确，放在一群里还是一眼 AI 味。
这是个真问题：合成数据集和模拟用户群需要反映真实人群的变异；文生图模型的多样性直接决定 test-time scaling 的上限。这些变异预训练时大概率见过，部署后的采样却不能可靠恢复。论文的切入点是把「能生成什么」和「该多常生成」拆开，后者交给经典统计。
MSR 是免训练的三阶段测试时流水线，生成器只当渲染器用。
关键设计在分工：语料当外部记忆，基础模型做它可靠的事(识别差异、按指定属性产出)，出现频率和组合概率交给普通统计。天气报告实验里，挖掘阶段几乎完整还原了数据生成时埋下的真实变异轴，这个分工站得住。
天气报告是受控实验，真实变异轴已知，对 2017 年留出分布打分：
| 方法 | Forward KL ↓ | JS ↓ | 覆盖率 ↑ |
| 仅 prompt | 0.570 | 0.484 | 21% |
| 语料塞进上下文 | 0.394 | 0.342 | 24% |
| MSR | 0.181 | 0.203 | 68% |
| 真实分布参照 | 0.150 | 0.166 | 83% |
把整个语料放进上下文，远不如从它的统计里采样。MSR 已接近直接采样真实 schema 的参照，覆盖率还差 15 个百分点。
用户模拟(5000 段真实编码对话，另从 WildChat 挖 600 段建 schema):五个模拟器上 MSR 全面缩小与真实用户的分布差。GPT-4o 的 Forward KL 从 0.605 降到 0.353,覆盖从 29.9% 升到 73.0%;PersonaHub 人格采样在五个模型里的四个上比 prompt-only 还差。
| 任务 | 指标 | 基线 | MSR |
| 网页(GPT-5.5) | Vendi(结构) | 2.158 | 3.956 |
| 文生图(GPT Image 2) | DINOv2 Vendi | 4.32(协调改写) | 6.73 |
| 3D 折叠椅(GPT-6 Astra) | 质量分 | 82.35(独立生成) | 83.55 |
| 3D 折叠椅 | odd-one-out 移除排名 ↓ | 48.8(独立)/ 25.1(要求互异) | 17.1 |
文生图在 GPT Image 2、MAI-Image-2.5、FLUX.2-flex 三个生成器上结论一致，采样配置直接复用；盲评 odd-one-out 里 MSR-Resolved 的图 99.8% 到 100% 被提前移除。3D 实验的对照最锋利：要求 agent「每次做点和上次不同的」确实提升多样性，质量分却从 82.35 掉到 70.80;MSR 多样性最好，质量 83.55 还略升。
免训练、模型无关，换生成器不用重挖 schema。适用场景很具体：造合成数据集、给 agent 评测造用户模拟器、批量出设计稿，凡是「单条要好、整批要像真实人群」的地方都用得上。属性是可读的自然语言，显式约束(比如「左侧导航」)可以直接钉死在配置里，出问题能追到具体属性。代价是一次性的挖掘标注，外加推理时多一层采样。
诚实地说，组件都不新：属性引导生成、离散密度估计、分层条件生成都有先例，论文自己把 fLSA 列为最近亲。新的是把「语料估的属性联合分布」当多样性来源这一步组合，加上跨五个领域的系统验证。
作者自述：挖掘质量受采矿模型限制，天气实验里「windy」有 24 条语料支持却没被挖出来，受控设定也分不清是渲染失败还是挖掘失败；Kimi K2.6 上增益明显小于 GPT-5.5,归因于指令遵循能力差异。
读下来还有几点存疑：挖掘和回标 10,000 个网页、28,875 个图像属性的成本论文没报，一次性预处理可能不便宜；odd-one-out 裁判用 GPT-5.6 Sol 和 GPT-6 Astra,与部分生成器同门，裁判偏好没有第三方校准；用户模拟覆盖率最高 81%,绝对差距仍大；天气实验的语料文本本身是 GPT-5-mini 生成的，最干净的设定也带着自产自销的成分。Vendi 和 odd-one-out 量的是散开程度，不量散开得有没有用，逐条质量评估只覆盖了部分任务。