开源 PokeBench:模型真打宝可梦红,一个打进四天王

afk-sapien · reddit · 2026-10-21

受 Claude Plays Pokemon 启发,作者开源了 PokeBench,用模拟器跑真实 Pokemon Red ROM 对比模型能力:- 每回合输入截图与屏上文本、队伍状态、背包、已见地图瓦片、结果反馈,以及模型自写的笔记本用于长程记忆;- 提供「技能」快捷操作(如对皮卡丘用药水、换位、放电)并自动跳过纯对话按键,让 token 花在决策而非翻菜单,全程真实回合与道具消耗,不读隐藏 flag。两级基准:PokeBench 47 个短任务(导航、道馆战、战术、手动菜单等,0-1 计分);PokeBench Long 从头通全流程,50 个剧情里程碑共 1000 分,统一 2000 次决策上限。结果:Astra 在上限内进展最快,放开限制后拿下 8 枚徽章、在 7627 次决策时击败四天王中 3 人(订阅耗尽没打完)。Sonnet/Haiku/Luna 则陷入循环被无进展守卫终止;Haiku 短任务接近 Sonnet,但全流程只得 10 分——短任务能力与长时程持续进展能力看起来是两种独立能力。注意:业余项目,每模型只跑一次,无误差棒,各家 effort 设置不统一。

原文链接 →

「Fun」频道最新

更多「Fun」频道 AI 资讯 →