Nanbeige4.2-3B 苹果芯片部署优化实战
John T. Halloran · hf · 2026-08-18
文章详细记录了在 Apple Silicon 上部署 3B 参数 Agentic 模型 Nanbeige4.2-3B 的过程。针对 Looped Transformer 架构，作者修复了部署 Bug，并采用 chunked-prefill 策略显著降低了内存开销，从而确保模型在 Mac 设备上能可靠运行并完成 Agentic 任务。
「Infra」频道最新
- SGLang 更新 Qwen3.8-27B 配方，RTX 5090 跑出 206 tok/s — ying11231 · 2026-08-18
- Rerank 反直觉现象：文档过多效果反降 — CShorten30 · 2026-08-18
- Qwen 3.8 27B 本地部署指南：3090 上的最佳参数 — cezarducatti · 2026-08-18
- Netlify 推出自托管 Git 平台：速度显著超 GitHub — thisiskp_ · 2026-08-18
- 传谷歌拟千万美元收购 Spirit 全量运营数据 — soumitrashukla9 · 2026-08-18
- 减少内存搬运：AI 基础设施优化的四个核心方向 — prateekj · 2026-08-18