14GB 核显笔记本跑通 22B 视频模型，Vega 7 iGPU 扩散全攻略
shirosoro · reddit · 2026-11-01
一位开发者在只有 AMD Ryzen 4750U(Vega 7 核显、14GB 共享内存、无矩阵核心/bf16)的 ThinkPad T14s 上，用 stable-diffusion.cpp + Vulkan 跑起了扩散模型甚至视频生成，并把所有经验开源在 vega-igpu-diffusion 仓库。
产出物
- ggml-vega.patch:针对 GCN/Vega 的融合 kernel、双波 matmul tile、 tiled f16 权重
- sd-cpp.patch:Anima/Wan VAE/LTX-2.5 提速、prompt embedding 磁盘缓存、VAE 解码前释放扩散权重
- GTK4 GUI(队列/历史/img2img/视频模式)、构建下载脚本、完整测量日志
实测成绩(25W 功耗墙)
- Anima 2B turbo 512×768 约 23 秒
- SDXL(Illustrious)+DMD2 832×1216 约 38 秒
- LTX-2.5 22B(蒸馏 Q2KXL)17 帧 512×768 约 3.3 分钟——22B 视频模型塞进 14GB 机器
关键技巧：CPU 端 --mmap 编码 prompt、去掉音频流省 3GB、VAE 解码前释放权重、不要量化 norm 权重(Q4K 会悄悄破坏 prompt 遵循)、Q3K 一次解码 4 值(825→1068 GFLOPS)、激活转 f16 再量化 matmul 提 6%。动画视频用像素空间超分比 LTX 潜空间超分更干净。
仅限 Linux/Vulkan,补丁未上游；数据为单机参考值。
「Infra」频道最新
- Sequoia 合伙人回击嘲讽:SpaceX 太空算力模型难在四个核心变量 — shaunmmaguire · 2026-11-01
- 推理引擎 Infernix 发布新版:针对 RTX 5090 优化 Qwen3.8 模型本地运行 — Suspicious-Mark-5450 · 2026-11-01
- AI 股票 10 月跌 13%,华尔街追问数据中心巨额投资何时回本 — Saul_Loveman · 2026-11-01
- 本地语音转写模型横评：Nemotron 3.5 击败 Fable 居首 — CryptoxPathy · 2026-11-01
- 旧 PC 换两张 R9700 包装成「AI 主机」，750 欧滞销变 5400 欧秒出 — sernamenotdefined · 2026-11-01
- 网友设想 OpenAI 算力园区：余热烧水泡茶、供桑拿休闲 — emax · 2026-11-01