Meta 和阿姆斯特丹大学改进离散 Flow Matching 生成
burkov · x · 2026-07-26
@AIatMeta 和 @UvAAmsterdam 的作者提出了一种改进离散数据扩散式生成的方法,目标是在保留任意顺序、并行生成优势的同时,提升实际效果。
核心思路是:
- 观察到一个缺失 token 往往在周围 token 越多可见时越容易预测。
- 因此在生成时优先处理“上下文更充分、支持度更高”的位置。
- 在训练时,让更清晰、更有把握的预测获得更大影响力。
作者声称,这个改动可以直接加到预训练模型上,不需要额外训练,开销也几乎为零;在 OpenWebText 上,生成困惑度最高可下降 63%。在分子生成任务里,它还能带来更多有效且新颖的候选结构。
所属事件:Meta与阿姆斯特丹大学提出上下文加权离散Flow Matching(2 条相关)→
「模型」频道最新
- BullshitBench 榜单更新:GPT-6-Astra 领先历代 OpenAI 模型仍未及 Anthropic — scaling01 · 2026-09-11
- Agent Astra 在 GauntletBench 得 83%,成首个超人类基线的电脑操作 Agent — ducha_aiki · 2026-09-11
- Kimi K2.8 Preview 上线:性能接近 K3、1M 上下文全档开放 — teortaxesTex · 2026-09-11
- 有人想给软件工程任务建「形态分类」数据库,好按任务选模型 — StewartalsopIII · 2026-09-11
- 用户呼声下 DeepSeek V4 Pro API 宣布继续服务,计费不变 — teortaxesTex · 2026-09-11
- 第三方实测:DeepSeek V4.1 Flash 达 GPT-6 Astra 98% 分,成本仅 1.4% — ayushtweetshere · 2026-09-11