16GB 显存跑 Qwen3.8 本地模型做村庄模拟游戏,75 t/s 出字

Fancy-Snow7 · reddit · 2026-09-06

作者用 16GB 显存的 RTX 5070 Ti,以 Qwen3.8-27B 的 UD-Q3KXL 量化版在 Windows 上全量跑出一个村庄模拟游戏 POC(在线可玩),tg 最高 75 t/s、pp 至 1700 t/s,上下文 96256。关键经验:不必惧怕 Q3 量化和 KV 量化——与其用更高量化导致部分卸载到 CPU 掉到 5-20 t/s,不如用低量化换高速度,出问题靠后续 prompt 快速修复;kvarn 下 MTP/draft 缓存也可量化,比 qxx 量化更省显存。开发方式不是一次性生成,而是增量 feature prompt,几乎不读代码,仅提示写模块化代码。遇到上下文撑爆时用 handover 文档和 pi-observational-memory 扩展管理。游戏含大地图、小地图、昼夜与季节、资源储存、房屋御寒、饥饿死亡等系统。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →