开发者借 Claude 在 16GB M1 Mac 上把 MiniMax H3 视频生成提速近一倍
Lokoto123 · reddit · 2026-11-19
作者借助 Claude 把 MiniMax H3 视频模型(21GB 8-bit 视频 transformer + 27GB Qwen3-VL 编码器)移植到 Swift 原生引擎,在 16GB M1 Pro 上实现 3 秒 480p 视频从 7:46 压缩到 3:54、5 秒视频约 6 分钟生成。
关键技术点:
- 权重逐位拷贝为内存映射,不重量化;旋转位置编码通道重排适配注意力 kernel
- 用全精度参照校验到 1e-5(发现 Python 管线半精度激活偏差 2–25%,不能当参照)
- 最优方案是 GPU+CPU AMX 分担输出列,8-bit 激活和 Neural Engine 反而更慢
- 提速捷径:3 步 LoRA 合并调度砍评估次数、解码器精度转换多核并行、从 5 个 latent 帧续接而非静帧
下一步攻 720p 和 Topaz 升采样(目前 30 分钟太慢)。
「Infra」频道最新
- AI 系统设计 19 大核心概念清单:从 KV Cache 到多智能体 — blaizedsouza · 2026-11-19
- 高通演示 vLLM 在 Dragonfly 上跑 Qwen3-VL-32B,FP16 本地推理 — HowDevelop · 2026-11-19
- 本地推理玩家纠结:两块二手 3090 换两块全新 R9700 划不划算 — Pear_Virtual · 2026-11-19
- Hugging Face 存储策略:公开数据集可获约 7TB 空间 — RisingSayak · 2026-11-19
- Databricks 详解 LTAP:湖即数据库存储,CDC 管道可整体取消 — matei_zaharia · 2026-11-19
- 独立开发者周五写码周日迁移完:休眠沙盒每月仅 1 美分 — emilahlback · 2026-11-19