让 LLM 重试游戏时写自我笔记,反而记住了导致失败的招
shoumikgoswami · reddit · 2026-11-16
一位开发者让 LLM 玩 1988 年侦探游戏书《The Money Spider》,观察它们拥有重试机会时的表现。
- 其中一条路线涉及热气球:降落看似合理,但会错过约十步之后需要的关键线索,等游戏判负时已经无法回头。
- 开发者尝试用模型为自己写的笔记替代完整的失败历史。一个模型找到了缺失线索,却给下次写下「乘热气球并在天气变坏时降落」的建议;后续尝试遵循了这条错误建议。
- 使用自我笔记的所有运行都没有通关。
这引出一个 agent 设计问题:给 agent 完整的失败历史,还是它自己总结的失败原因?实验结果显示模型的自我总结可能固化错误结论。更多结果见作者主页。
「Fun」频道最新
- Austin 新开 Micro Center,博主冲动购入机械臂守夜 3D 打印农场 — Sentdex · 2026-11-16
- 等 AI Agent 干活时拼乐高:等待时间成了最好消遣 — aishashok14 · 2026-11-16
- GTA VI 也逃不过 AI:博主吐槽游戏角色不聊 agentic workflow — rachittshah · 2026-11-16
- AI 圈考古:Bing 当年讲「有考据的笑话」名场面被翻出 — repligate · 2026-11-16
- 网友用定制 AI 写「反 slop」檄文,自称未微调的基座模型下场骂战 — TuhinChakr · 2026-11-16
- DHH 力挺马斯克回击质疑,马斯克亲自下场晒 SpaceX 数据 — vaibhavbetter · 2026-11-16