用朗道力学写学习动力学:物理学家把「物理的乐趣」带回 AI 研究
Hidenori8Tanaka · x · 2026-09-10
研究者 Hidenori Tanaka(与 Daniel Kunin 合作)分享了他以物理视角研究机器学习的一系列工作,核心问题是:「宏观控制变量会涌现吗?」——即能否找到可用于监控和引导大规模 agent 集群(swarms of agents)的变量。
其相关工作包括:
- Noether's Learning Dynamics(arXiv:2105.02716):将梯度下降的离散学习动力学用连续时间拉格朗日形式建模——学习规则对应动能、损失函数对应势能;提出「动能对称性破缺」(KSB),把物理学的 Noether 定理推广到神经网络,应用于带归一化层的网络后,揭示了归一化层如何引入「隐式自适应优化」,类似 RMSProp 的效果。
- 朗道《经典力学》教科书式的学习动力学拉格朗日表述。
- 自监督学习中损失景观的朗道自由能表述。
他希望这类工作能把「物理的乐趣」带回 AI 研究。
所属事件:物理学家尝试用类朗道统计物理理论理解 Agent 集群行为(2 条相关)→
「研究」频道最新
- Hank Yang:AI 擅长前人定义好的问题,人类价值转向定义问题本身 — hankyang94 · 2026-09-10
- 雅可比猜想风波:Anthropic 数学家回应被疑用了公开泄露论文 — suchenzang · 2026-09-10
- NNsight 0.8 预发布:vLLM 近原生速度与 MoE 支持 — davidbau · 2026-09-10
- ECCV 报告:具身 AI 需预测动作、证据推理与流式效率三大能力 — CSProfKGD · 2026-09-10
- 开源实验:操控内部激活方向可控制 LLM 回答还是停止 — rayanpal_ · 2026-09-10
- OpenAI 宣布破解千禧年数学难题,却被指抢发引发学界寒意 — The Verge AI · 2026-09-10