Bonsai 2 2B 端侧模型登 iPhone:120 token/s,速度两倍于 Qwen 3.5 2B
cephaloform · x · 2026-10-16
新的 Bonsai 2 2B 模型在 iPhone 18 Pro 上达到最高 120 token/s 的生成速度。据发布者对比，其质量优于 4-bit 量化的 Qwen 3.5 2B，同时速度快一倍、内存占用几乎减半，展现了小模型端侧部署的最新水平。
「Infra」频道最新
- EpochAI 估 GPT-6 训练算力 4.6e26 FLOP,引算力圈质疑参数高估 — scaling01 · 2026-10-16
- Meta Muse Spark Open 智能指数仅 39，比闭源 1.3 低 9 分 — EAccelerate_42 · 2026-10-16
- LLM 优化 ffmpeg 模糊滤镜:每帧 95GB 冗余拷贝,耗时从 2452ms 降到 49ms — IgorCarron · 2026-10-16
- TRL 引入树形打包:Agentic RL 训练前反向计算提速超 26 倍 — joecole · 2026-10-16
- ASM 在 SEMICON West 用「披萨 3D 打印」讲透原子层沉积原理 — BenBajarin · 2026-10-16
- Google Willow 芯片量子纠错降 40 倍，比特币 Q-Day 或提前 — jamestagg · 2026-10-16