新论文证明:约束与非光滑性不会拖慢非凸随机优化收敛
gautamcgoel · x · 2026-10-13
Princeton 的 Gon Buzaglo 与IAS 的 Guy Kornowski 发布新论文《Optimal Algorithms for Nonsmooth Nonconvex Stochastic Optimization with Constraints》。此前研究普遍认为约束会让非光滑非凸问题更难,本文证明其 oracle 复杂度其实不变。他们提出基于投影和无投影的算法,用随机梯度达到 Õ(δ⁻¹ε⁻³) 的最优率,零阶查询达到 Õ(dδ⁻¹ε⁻³),并给出基于 Frank-Wolfe gap 的下界(对光滑问题也成立)。分析核心是归约到在线线性优化的技术。
「研究」频道最新
- 单卡 15 分钟微调 Qwen3.5-4B 做决策模型,4GB 显存本地玩 Flappy Bird — danielhanchen · 2026-10-13
- 让 Claude 只看权重文件解读 MNIST 神经网络 — Sauers_ · 2026-10-13
- AgentSWE 基准：25 个任务实测编码 Agent 造 Agent，无一达标 — Jiahao Wang · 2026-10-13
- Schema 智能体在 ARC-AGI-3 公开集达约 99% RHAE，论文与代码全开源 — wzenus · 2026-10-13
- 世界模型研究结论:堆数据无用,关键是从数据里榨出更多;精确物理仍缺位 — mangahomanga · 2026-10-13
- 独立开发者自建推理库训练 SVG 生成模型:进化算法败给 SGD — cephaloform · 2026-10-13