字节论文：保留尝试历史胜过总结，LLM 推理提升 4.2%

rohanpaul_ai · x · 2026-08-31

ByteDance 发布新论文研究测试时计算优化，提出 Chain-of-Experience (CoE) 方法。与传统将历史尝试总结为简洁摘要的做法不同，CoE 主张在上下文中保留早期尝试和反馈的完整历史记录，并要求模型基于此再次尝试。

在 6 个数学、编程和知识基准测试中，使用自我反馈的 CoE 方法平均得分达到 71.0%，而仅进行迭代求解但无反馈的方法平均得分为 66.8%。这表明在特定任务中，保留“混乱”的原始尝试历史比将其压缩为“整洁”的摘要更有效。