LoopGR 用循环深度做参数高效扩展,模型小 52% 性能反超
_reachsumit · x · 2026-10-28
论文 LoopGR（arXiv:2610.34157）提出生成式推荐的参数高效扩展框架：
- 方法：将推荐建模为自回归生成后，用分层循环深度机制在共享生成解码器与轻量上下文更新器之间交替，增加计算深度而不增加参数量。
- 推理优化：通过循环轨迹自蒸馏，把高预算 teacher 蒸馏成低预算 student，对齐预测分布与演化方向。
- 结果：相对代表性 encoder-decoder 基线，性能更优同时模型体积最多减少 52%。
- 意义：确立「循环深度」作为新的 scaling 维度，为受限于模型大小与推理成本的工业推荐系统提供资源高效的扩展路径。
「研究」频道最新
- 研究者预测:几年内分子模拟将高精度模拟大部分化学与生物学 — TimothyDuignan · 2026-10-28
- 研究者争论：AI 生成文本与人类文本差异尚无技术不可解证据 — _akpiper · 2026-10-28
- 粗粒化模拟可跨尺度放大，回应全原子生物体模拟不可行之说 — TimothyDuignan · 2026-10-28
- Agent harness 要被模型「吃掉」了?蒸馏实验显示通用脚手架正被训练进模型 — rseroter · 2026-10-28
- 「抽象神经元当嵌入」在词相似度上胜过全部 SOTA,句子检索惨败 — mayfer · 2026-10-28
- 普渡大学推出无GPS无人机:片上激光雷达穿越密林追踪目标 — DavidSKrueger · 2026-10-28