MIT 研究:近 60 个科学 AI 模型表征趋于收敛
BenBlaiszik · x · 2026-08-14
MIT 等机构的研究人员发表了一篇新论文,探讨了不同科学基础模型是否学习到了相似的内部表征。
- 研究结论:通过对涵盖字符串、图、3D 原子和蛋白质等不同模态的近 60 个科学模型进行分析,发现它们在广泛的化学系统中表现出高度一致的表征对齐。
- 收敛规律:随着模型性能的提升,机器学习原子间势能在表征空间中逐渐收敛,表明基础模型最终会学习到物理现实的通用底层表征。
- 两种机制:在与训练数据相似的输入上,高性能模型紧密对齐,而弱模型则发散至局部次优;但在分布外的庞大数据上,所有模型都存在显著分歧。
作者指出,这一发现为构建可靠的科学基础模型以及使用多智能体编排不同的机器学习势能提供了理论基础。
「研究」频道最新
- 为何大学习率与小批次能提升泛化?RBC Borealis 发文揭示底层机制 — SimonPrinceAI · 2026-08-14
- 北大与 DeepSeek 论文:探索自进化 Agent 的动态架构 — burny_tech · 2026-08-14
- 60美元训练模型跑通SWE-bench,性能比肩Claude 2 — StanfordAILab · 2026-08-14
- 新基准 Harness-IF 揭示:AI 编程助手并非真正听懂你的规则 — omarsar0 · 2026-08-14
- AlphaXiv 推出 AI 研究者专属 LinkedIn — JayAlammar · 2026-08-14
- FLARE扩散语言模型开源,速度提升数倍媲美GPT-5 — bodonoghue85 · 2026-08-14