144M 小模型驱动 NPC 决策,6GB 笔记本 GPU 跑出会学习的村庄
Whoa_damn_ · reddit · 2026-11-02
作者构建了一个 8 个村民过一天的村庄模拟,验证“每个模型只干一件事”的小模型分层架构(6GB 笔记本 GPU 即可运行):
- 直觉层:Julia-1(144M 参数,CPU 运行),不给它生成文字的能力,只对世界提供的合法动作打分——不会发明动作,因此不会漂移成角色扮演。
- 记忆层:embeddinggemma(CPU),每次决策前检索 3 条最相关的过去时刻(最近的、重大的、与当下相似的)。
- 慢思考层:gemma 4 e4b(6GB GPU),只在直觉层不确定或出现意外(计划失败、受伤、路径受阻)时才被调用。
关键实验发现:
- 直觉层很少犹豫:危机时刻 Julia-1 首选动作的概率通常达 0.81-0.90,gemma 多是被“出事了”触发而非模型犹豫。
- 全程零训练:村民靠夜间学习——gemma 把当天有效的经验浓缩成 ≤22 词的规则(每人最多 5 条)放到下次的上下文里。一条相关规则把某村民去邻居家求助的概率从 0.0002 拉到 0.638,无关规则则毫无作用。
- 措辞影响巨大:同一个过桥取食任务,换个描述得分从 0.2% 变成 53%-90%。
- 从自己的错误学习才有效:15 个有落石的地图上,每谷受伤数从纯记忆的 2.73 降到带学习的 0.53。从邻居借来的规则经审计很少被用到。
「编程与Agent」频道最新
- Épi 智能体凭持久记忆刷新 120 项纪录,同模型下胜 Codex 5.4% 且成本仅 64% — Arindam_1729 · 2026-11-02
- GitHub Actions 按分钟向上取整计费,短任务合并可省大量 CI 费用 — DanielLockyer · 2026-11-02
- 一块 GPU 花 $1.47 重 OCR 14483 页文档,吞吐 8.9 页/秒 — vanstriendaniel · 2026-11-02
- 万圣节最吓人画面:团队在 Slack 私聊里传来传去 md 文件 — jacob_posel · 2026-11-02
- 投资人 Martin Tobias:套壳终将被实验室碾过,押注 B2B harness — MartinGTobias · 2026-11-02
- Phil Schmid:Agent 将只剩一个工具,Code Mode 取代多工具调用 — _philschmid · 2026-11-02