单卡 15 分钟微调 Qwen3.5-4B 做决策模型,4GB 显存本地玩 Flappy Bird
danielhanchen · x · 2026-10-13
开发者用 UnslothAI 微调 Qwen3.5-4B,训练出类似 Jev 的风格决策模型:
- 基于 LocalLLaMA/typed-decisions 数据集,添加决策头,4-bit QLoRA + bf16 训练
- 单张 A100 上 15 分钟跑完 4 个 epoch,准确率从 30% 提升到 80%(实测 2 个 epoch 后 loss 就已趋平)
- 只训练了 64.5M 参数(占总参数 2.1%),LoRA 合并后量化为 Q4KM
- 推理经 llama.cpp 在单张 RTX 4060 上本地跑 Flappy Bird,延迟约 250ms,显存占用仅 4GB,比多数云端 API 还快
整个流程展示了小模型 + 参数高效微调在端侧实时决策任务上的可行性,成本极低、可复现性高。
「Fun」频道最新
- Claude Desktop 安装界面被玩梗：套壳换个模型就是开源桌面版？ — builderjaydub · 2026-10-13
- Claude 驱动的游戏 Bot 自行弹出 Twitter 登录窗口吓坏作者 — DryPay865 · 2026-10-13
- Claude Opus 自主挖掘公开 LIDAR 数据，精确复刻尼米兹号航母 — teortaxesTex · 2026-10-13
- AI 视频演绎「克苏鲁上菜单」奇幻恶搞短片 — creatorset · 2026-10-13
- AI 动作迁移整活:《沉默的羔羊》跳起舞来 — jfischoff · 2026-10-13
- lxfater 感慨:创意领域人类还是不够 AI 抽象 — lxfater · 2026-10-13