在安卓手机上跑 3B 小模型，用 Jupyter+Pydantic Evals 自建评测
alex_b3b · reddit · 2026-11-11
开发者分享了 PythonHere 项目：可以直接在 Jupyter 里操控安卓手机上的 Python 环境，并新增了 LiteRT-LM 支持，用于探索小模型在手机端的真实能力。
评测方案上，作者用 Pydantic Evals 配合普通 Python 函数，在手机上跑推理并自定义 evaluator，全程在 Jupyter 内完成，作者认为这套组合非常适合端侧模型实验。
实测 Qwen2.5-Coder-3B-Instruct 做几个 Python 任务，结果超出预期：3B 模型指令遵循能力不错，有时能写出可用的 Python 代码。作者发布了实验视频和含代码与结果的 notebook。
「Infra」频道最新
- 百度发布 ERNIE Evolve 自动研究系统,NanoGPT Speedrun 超公开最好成绩 — xiaohu · 2026-11-11
- 百度首次用 RSI 自动优化文心推理,昆仑芯出字速度提升 6.24 倍 — xiaohu · 2026-11-11
- Nvidia 供应承诺单季从 1190 亿飙至 2790 亿美元，锁死 2027-28 显存 — tengyanAI · 2026-11-11
- 独立研究者新优化器：24GB 显存可训 27B 模型，权重仅需 1.6bit — oguzeldereli · 2026-11-11
- 英伟达扩大与 Meta 的 Muse 合作,将向 Meta 投资 30 亿美元 — armand_ruiz · 2026-11-11
- 网友算账质疑 Anthropic:Opus 5.5 十亿美元成本大头不在算力 — teortaxesTex · 2026-11-11