SDXL 微调模型跑进 iPhone 神经引擎：6-bit、8 步、纯离线生图
NovaDevCodeStudio · reddit · 2026-09-08
开发者把 SDXL 微调模型 Juggernaut XL Lightning 转成 Core ML，在 iPhone/iPad 的神经引擎上实现纯本地生图：768x768、8 步采样、6-bit palettized、split-einsum，模型约 3 GB 一次性下载，需 6 GB 以上内存，全程离线（飞行模式实测），另跑通 InstructPix2Pix 图生图和 Real-ESRGAN 放大到 4096。
作者分享了两条踩坑经验：
- Core ML 即使 6-bit 也无法为 SDXL UNet 构建完整执行计划，需手动拆成两块；
- Lightning 在 8 步下用 DPM++ 时 guidance 需调到约 1.5，默认采样器出噪点。
作者还在征集反馈：768 分辨率够不够（1024 显著拖慢）、3 GB 一次性下载是否可接受、iOS 首次为神经引擎编译约两分钟是否算劝退点。
「Infra」频道最新
- Claude 近半营收来自云市场渠道，占比三年内从 11% 涨至 47% — BenBajarin · 2026-10-26
- 降价即放量：Anthropic 10 月 token 用量暴涨，年底 ARR 或破 1000 亿美元 — GavinSBaker · 2026-10-26
- Alex Banks：电力是 GPU 上线瓶颈，真正的风险是需求先降温 — thealexbanks · 2026-10-26
- 分析师：蚂蚁是当前工作负载最具弹性可置换的模型厂商 — BenBajarin · 2026-10-26
- Anthropic S-1：训练基建优势使单任务成本降40%、营收增速翻倍 — BenBajarin · 2026-10-26
- 研究揭示合成数据最优比例随算力从10%升至32% — heghbalz · 2026-10-26