新预印本:几何感知时间重参数化改进 Flow-Map 蒸馏
FrnkNlsn · x · 2026-10-08
OIST 团队(Félix Dedek、Makoto Yamada)发布新论文《Geometry-Aware Time Reparameterization for Flow-Map Distillation》(arXiv:2610.02427)。核心思路:Flow-map 蒸馏通过学习预训练生成 ODE 的有限时间转移实现一步/少步生成;作者观察到轨迹中法向加速度大的片段更难蒸馏,于是提出几何感知的时间重参数化——给学生模型在弯曲区域分配更多时间分辨率,同时保持教师模型的几何路径与终态分布不变。关键性质:该「时钟」在蒸馏前一次性估计,无需重新训练教师、不增加学生参数或推理开销。实验:在合成数据、CIFAR-10、CelebA-64 上,同等推理预算下样本质量优于恒等时间蒸馏,一步和两步图像生成均有提升,尤其一步生成(无中间采样时间可调)的增益凸显了蒸馏期时间重参数化的价值。
「研究」频道最新
- MarODE 论文入选 TMLR:用 Markovian ODE 给 LLM 推理链打分 — Tanmoy_Chak · 2026-10-08
- 实测显示 AI 写的单元测试无助于提升 agent 成功率 — GabGarrett · 2026-10-08
- OpenAI 研究员猜想:AI 数学或率先证明 P≠NP — markjeffrey · 2026-10-08
- 密码学家反驳:AI 数学进展威胁椭圆曲线安全毫无逻辑 — markjeffrey · 2026-10-08
- temperature 设 0 也不稳定:千次生成竟出 80 种不同输出 — lmoroney · 2026-10-08
- 用预测市场训练LLM模拟个体行为,零样本迁移提升15.5分 — youjiaxuan · 2026-10-08