35B MoE 在手机上跑通,10 分钟做出 Snake 游戏
dai_app · reddit · 2026-07-23
作者称自己把一个 35B MoE 模型完整跑在手机上,并让它在大约 10 分钟内生成了一个 Snake 游戏。这个应用叫 Pocket Interpreter:用户用自然语言描述要做什么,手机本地写代码并直接运行,全程不联网。
他强调,这次生成的 Snake 游戏一次就成功了,包含滑动控制、碰撞检测、计分和速度递增等逻辑。帖子进一步对比说,小模型往往会在这类任务上反复修补,而大模型能“一次写对”——但问题是,大模型通常又塞不进手机。
因此作者引出 BigMoeOnEdge 的思路:把 120B MoE 做到手机端,本质上依赖“常驻部分 + 从闪存流式加载专家”的架构,让 12GB 手机也有可能承载 60GB 级别的模型。
「Infra」频道最新
- 中国开源模型短期反而在加固 NVIDIA 的推理护城河 — zephyr_z9 · 2026-07-23
- AI 可移植性不在模型 ID,而在身份、trace 和回滚 — Early-Matter-8123 · 2026-07-23
- OpenShip 以开源部署和 MCP 挑战 AWS、Vercel — eyishazyer · 2026-07-23
- The Stack v3 发布:114TB、2240 万仓库并修复去重 bug — anton_lozhkov · 2026-07-23
- AI 竞赛已按 GW 计,欧洲仍停留在 MW 思维 — AymericRoucher · 2026-07-23
- COLMAP 主分支合并 DEGENSAC,平面场景重建更强 — ducha_aiki · 2026-07-23