LiFT 循环复用 DiT 核心:参数减 60% 仍胜稠密基线 3.34 FID
burny_tech · x · 2026-10-21
论文《LiFT: Loop Flow Transformers》提出一族循环生成模型:通过反复应用共享的 Diffusion Transformer(DiT)核心来扩展计算量,只对标准架构做轻量修改。训练时每个循环步只优化单一回归目标——从模型初始估计到 flow-matching 目标直线上的一个点;由于目标由连续深度坐标索引,训练好的模型可以循环到远超训练深度而无需重训、提前退出或其他修改。在 ImageNet 256x256 上,LiFT-L/2 的 FID 比稠密 DiT-XL/2 基线低 3.34 个点,同时参数少约 60%、训练 FLOPs 少 32%、推理 FLOPs 少 52%。
所属事件:LiFT 循环复用共享 DiT 核心,参数减 60% FID 反降 3.34(2 条相关)→
「研究」频道最新
- 新一代零阶 speedrun 优化器命名亮相:Dust、Relay、Drift Leap — willcb · 2026-10-21
- 亚马逊FAR团队发布FIBER:统一潜在空间让Unitree G1完成开门搬箱 — ChongZzZhang · 2026-10-21
- 爆料称 Anthropic 两周内将发布更大生物突破:Claude 64 小时产出 17 个验证蛋白 — ChrisGPT · 2026-10-21
- DeepMind 论文:自进化 Agent 学新任务最快,忘掉旧知识也最多 — rohanpaul_ai · 2026-10-21
- arXiv 原文:《自进化 Agent 是持续学习者吗?》——可塑性代价是稳定性 — rohanpaul_ai · 2026-10-21
- acs infra 上线免费 base model API,开放 Llama 3.1 8B/405B 供研究者使用 — amplifiedamp · 2026-10-21