音乐模型 YuE2 完整版被压到 1.7GB 内存跑上 iPhone
Acceptable-Cycle4645 · reddit · 2026-09-25
开发者 0xShug0 演示了在 iPhone 上以仅 1.7GB 内存运行 YuE2（含 ABC 编解码与完整思维链推理），展示了音乐生成模型在端侧 VRAM 压缩上的极限优化，自称「纯属好玩」。
优化代码已在 GitHub 仓库 audio.cpp 的 yue2-optimizations 分支开源。
「Infra」频道最新
- VeriTile:用 Lean 形式化验证 Triton GPU 内核,AI 智能体自动写正确性证明 — KaiyuYang4 · 2026-09-25
- Merge Gateway 推出 Batch API,批量推理约半价 — shensi · 2026-09-25
- 工程师发文详解生产环境 LLM 推理扩容实践 — abhijithneil · 2026-09-25
- Lambda 工程师详解本地推理装机:27B 模型需 24-32GB 显存 — TheZachMueller · 2026-09-25
- Pokee AI 现场演示 36B agent 模型跑在 32GB 内存的骁龙笔记本上 — Kyrannio · 2026-09-25
- AMD 讲师亮相 PyTorchCon:1K+ MI355X 上实现 MXFP8 预训练扩展 — PyTorch · 2026-09-25