16GB 显存跑 Qwen3.8 本地模型做村庄模拟游戏,75 t/s 出字
Fancy-Snow7 · reddit · 2026-09-06
作者用 16GB 显存的 RTX 5070 Ti,以 Qwen3.8-27B 的 UD-Q3KXL 量化版在 Windows 上全量跑出一个村庄模拟游戏 POC(在线可玩),tg 最高 75 t/s、pp 至 1700 t/s,上下文 96256。关键经验:不必惧怕 Q3 量化和 KV 量化——与其用更高量化导致部分卸载到 CPU 掉到 5-20 t/s,不如用低量化换高速度,出问题靠后续 prompt 快速修复;kvarn 下 MTP/draft 缓存也可量化,比 qxx 量化更省显存。开发方式不是一次性生成,而是增量 feature prompt,几乎不读代码,仅提示写模块化代码。遇到上下文撑爆时用 handover 文档和 pi-observational-memory 扩展管理。游戏含大地图、小地图、昼夜与季节、资源储存、房屋御寒、饥饿死亡等系统。
「编程与Agent」频道最新
- Qwen 3.8 27B 本地驱动 Blender:MCP 让模型徒手搭 3D 羊驼 — jacek2023 · 2026-09-06
- tokenbender 分享实操技巧:让模型写「双叙述」检查长任务是否跑偏 — tokenbender · 2026-09-06
- 实测 vLLM 广告 KV cache 注水,压力测试工具揭示真实保留率 — t4a8945 · 2026-09-06
- Nous Research 上线 Hermes BOT MODE,可自建多智能体团队 — Teknium · 2026-09-06
- 用户实测 GPT-6-Astra:30 分钟自动建好 33 条产品分析洞察 — Scobleizer · 2026-09-06
- 学生开源 MCP 网关,向量索引工具目录省 50% token — randomdick_18 · 2026-09-06