函数梯度下降新框架被 NeurIPS 接收,性能超神经网络一个量级
dccsillag0 · reddit · 2026-09-28
作者团队(一作现身答疑)的工作 Functional Gradient Descent with Adaptive Representations 被 NeurIPS 接收。
核心问题:函数梯度下降(Functional GD)算法通常优于神经网络,但难以精确实现——函数梯度是无限维的,实践中必须近似;而朴素近似会收敛到错误的位置。
贡献:论文形式化了一类广泛的近似方案(“自适应表示”,adaptive representations),可证明能保证收敛到全局极小值,同时可直接实现。所得算法在多个设置下常比对应的神经网络好一个数量级。
作者称这仍是该方向的早期阶段,但认为潜力很大。论文:arxiv.org/abs/2606.16926
所属事件:函数梯度下降新框架被NeurIPS接收,性能超神经网络一个量级(2 条相关)→
「研究」频道最新
- NLP 学者 Nakov:LLM 生成的论文读起来像意大利语空话「supercazzola」 — preslav_nakov · 2026-11-16
- ICLR 审稿人未被打动仍提分:因相信论文对社区有价值 — MarkSchmidtUBC · 2026-11-16
- 手改0.2%权重加CPU训练100分钟,英语TTS模型变身18MB梵语语音 — kastnerkyle · 2026-11-16
- 为什么 AI 做化学必须懂手性:对映异构体在生物体内并不等价 — madeofAjala · 2026-11-16
- RSS 2027 投稿开启:两阶段评审 FAQ 澄清负面结果标准 — GeorgiaChal · 2026-11-16
- Mobile AI Factory:agent 自动为你的手机造专用小模型,GPU 时间省 19 倍 — pmttyji · 2026-11-16