微调 Gemma 4 E4B 单卡驱动 100 个村民:全离线谣言模拟游戏
AlternativeEnough352 · reddit · 2026-11-23
开发者开源「Rumor Village」:一个 3D 村庄里最多 100 个邻居由本地微调的 Gemma 4 E4B(llama.cpp,CUDA/Vulkan)驱动,玩家投放谣言看它在村民间传播变形,全程离线、无 API。
- 决策机制:每模拟分钟每个村民发一张约 256 token 的卡片(身份/位置/所见所知),模型按 GBNF 语法输出单个 JSON 动作;C++ 引擎先校验动作与村民记忆再执行——「模型提议,引擎裁决」,且整数运算保证同 seed 可精确重放。
- 微调收益(Q4KM 同 seed 冻结测试):编造记忆从 2.0%→0%,失败动作减少 16.5×(西语)/5×(英语),自然度 3.7→4.2;每分钟生成时间从 0.73s 降到 0.36s,RTX 5070 Ti 上批 16 人仅占 4.4–4.6GB VRAM。代价是被拒动作升至约 1%。
- 训练:LoRA bf16(r16/alpha32),12,146 条卡片→答案对(西/英双语),数据由引擎从真实运行日志重建,答案由两个不同家族的前沿模型生成并经引擎验证;租一张 RTX 5090 训完。
代码 MIT、模型 Apache-2.0,另有无需 GPU 的无 AI 网页 demo。
「编程与Agent」频道最新
- 形式化 CFSG 规模超怀尔斯证明 3 倍,Lean 成 AI 数学化瓶颈 — Vjeux · 2026-11-23
- 引用门+字符串校验:让 Agent 记忆可靠的关键是别信任它 — capngreenjeans · 2026-11-23
- 开发者吐槽 Codex 频繁要批准清理 worktree:「权限是自主的天敌」 — Baconbrix · 2026-11-23
- AI Agent 不该持有密钥:用身份与 SVID 委托机制取代 secrets 分发 — bibryam · 2026-11-23
- 26 个 Agent 10 天无人审码重写 10 万行 Django 为 Rust — panda8778 · 2026-11-23
- 独立 9 个月开发开源 IDE Kalynt,挑战 Cursor 与 Antigravity — Public_Raspberry3950 · 2026-11-23