LLM 合成概率程序:MIT 系论文提出混合架构逼近人类开放世界推理
xuanalogue · x · 2026-09-15
xuanalogue 在讨论中提出一条更可行的混合路线:「用 LLM 加速概率程序的生成、学习与合成,再用概率程序做可靠的推理与决策」,并援引 arXiv 论文 2507.12547 作为范例。
论文要点(Lionel Wong、Joshua Tenenbaum 等,MIT 系团队):
- 提出 Model Synthesis Architecture(MSA):用语言模型实现基于全局相关性的检索与「心理模型」合成,用概率程序实现为具体情境定制的、连贯的世界模型。
- 动机:人在新情境下能调动广泛背景知识做出连贯推断,假设人结合分布式与符号表示构建定制心智模型。
- 评测:构建围绕体育情境的「Model Olympics」推理数据集,要求判断新因果结构、调用大量背景知识并应对引入任意新变量的观察;MSA 比纯语言模型基线更好拟合人类判断。
这条路线被视为「grow it vs. engineer it」之争中一条务实的中间道路。
所属事件:概率编程路线激辩:AI该被工程化还是生长出来(4 条相关)→
「研究」频道最新
- SSAD2026 开场：从 LiDAR 自监督到多传感器蒸馏的自动驾驶 3D 感知 — abursuc · 2026-09-15
- 《扩散模型原理》522 页全书 PDF 放出，MIT Press 2027 年出版 — RichmanRonald · 2026-09-15
- 从 router 到专家并行:一篇讲透 MoE 工作原理的手册 — techNmak · 2026-09-15
- AlayaLab开源AlayaVista:全景状态到视角视频的流式世界建模 — AlayaLab · 2026-09-15
- 从零构建生产级希腊语-英语双语语音识别系统的完整复盘 — KIEFERSA · 2026-09-15
- Q-CTRL 用 120 比特 IBM 量子机在材料模拟中实现实用性量子优势 — MJBiercuk · 2026-09-15