研究发现 LLM 智能体依赖模仿而非抽象规则推理

rohanpaul_ai · x · 2026-08-18

一项研究揭示了当前让 AI 自我进化的记忆机制存在盲区。现代 LLM 智能体通常存储两种形式的记忆：原始的逐步历史记录或浓缩的总结规则。研究者通过秘密交换正确的总结规则为随机垃圾文本进行测试，发现：当逐步历史被破坏时，AI 性能大幅下降，证明其严重依赖复制过去的精确操作；然而，即使浓缩的总结规则被完全损坏，AI 的表现依然正常，性能未受影响。这表明 AI 并没有应用抽象经验教训到新情境的能力，真正的推理学习可能并未发生。