手机上微调小模型，准确率升到 90%
beamnxw · x · 2026-07-18
一位 Google 工程师演示了如何把一个很小的模型直接在手机上微调，并在 21 分钟内把任务准确率从 46% 提升到 90%。
方法包括：选用 Gemma 270M、为特定任务生成合成数据、用 LoRA 微调、量化到 int4，再部署到 Pixel 手机上运行。作者强调，这套组合可以让一个紧凑的 AI agent 离线运行在手机里，且吞吐可达到很高水平。
「Infra」频道最新
- 马斯克断言:机器人 RAM 需求将超其他一切,超级智能算力将移向深空 — elonmusk · 2026-10-27
- RTX 5090 卖到 7000 美元，PC 游戏社区集体否认 AI 热潮 — PAstynome · 2026-10-27
- Wan2GP 上架 Pinokio：6GB 显存一键跑 AI 视频生成 — cocktailpeanut · 2026-10-27
- Wan2GP AMD 版一键安装上线，6GB 显存即可跑 AI 视频生成 — cocktailpeanut · 2026-10-27
- AWS 详解 Agent 提示缓存：显式+隐式双模式省下重复 token 账单 — AWS ML Blog · 2026-10-27
- 6 个月被抢超 1 亿美元：盗贼用 GPS 欺骗劫走数据中心货物 — Ars Technica AI · 2026-10-27