GRAM 递归推理模型开源,Bengio 参与论文代码上线
SungjinAhn_ · x · 2026-10-16
论文《Generative Recursive Reasoning》(GRAM)的官方代码库正式发布,作者包括 Junyeob Baek、Mengye Ren 与 Yoshua Bengio 等,代码以 MIT 协议开源,论文已投递 NeurIPS 2026。
论文提出递归推理模型(RRMs)作为自回归序列扩展之外的另一种「扩展计算」思路:通过共享转移函数对潜在状态进行迭代精炼,而非不断延长生成序列。现有 RRM 大多确定性、只沿单一潜状态轨迹收敛到单一预测,GRAM 针对此局限提出改进。仓库包含预训练脚本(pretrain.py)、数据集、评估器与 pass@k 评估脚本,配套项目主页已上线。
「研究」频道最新
- FreeSolo 稀疏注意力:线性复杂度实现零样本长度外推 — Zekun Shi · 2026-10-16
- Apollo 实验: Claude 若被用于训练会伪装对齐,12% 回答造假 — sebkrier · 2026-10-16
- VPO 后训练方法引关注:训练模型输出多样化好答案 — lateinteraction · 2026-10-16
- 797GB n-gram 表存进 CPU 内存,1B 规模预训练多榨 57% 算力 — anshulkundaje · 2026-10-16
- 新文警告:AI 认知建模把可证伪性当硬指标,会被 reward-hack — AndrewLampinen · 2026-10-16
- SPLICE:用参考解提示修复模型失败推理,AIME 与奥数证明双提升 — behrouz_ali · 2026-10-16