Apple:递归语言模型结合自反思的长上下文处理

Apple ML Research · rss · 2026-07-09

Apple ML Research 发表论文,研究了递归语言模型(RLMs)在处理长上下文时的表现。 文章指出,即使扩展了上下文窗口,模型在长文本中提取和推理信息依然困难。RLMs 通过在推理时以智能体方式将长上下文分解为递归子查询来解决该问题。本研究深入探讨了如何有效选择这些上下文交互程序的轨迹,验证了自反思程序搜索在应对长上下文挑战时出人意料的有效性。

原文链接 →