Windows 双 AMD GPU 跑通 Strata:9070XT 单卡全上下文 50-100 tok/s
Ok-Importance-3529 · reddit · 2026-10-19
- 一位用户在 Windows 11 上成功跑通 Strata:双 AMD GPU(9070XT + 9060XT)层切分,搭配 14900KF 和 64GB 内存。
- 关键坑:必须设置环境变量 STRATARESIDENTPIN: "0" 才不崩溃,代价是有一定性能开销。
- 最终方案为 9070XT 单卡:全上下文、qwen 采样、IQ3XXS 量化下约 1350pp、50-100 tok/s。
- 作者还自行编译了 Vulkan 版 vision,把 vision mmproj 跑在第二张卡上。Windows 双 AMD GPU 与 vision 官方均不支持,但无需改代码即可运行,配置已发布在 GitHub discussion #14744。
「Infra」频道最新
- 美国能源部贷款 44 亿美元重启三座核电站,供 AI 数据中心用电 — emmanuelvivier · 2026-10-19
- 中国拟管制 23 项 AI 技术出口,2 万亿参数以上模型禁止出境 — emmanuelvivier · 2026-10-19
- DeepSeek-V4.1-Flash 2-bit 量化版发布,双 RTX PRO 6000 即可跑 — TheZachMueller · 2026-10-19
- 阿里云演示 Omarchy 系统跑在无影 AI 云电脑上 — AIFlow_ML · 2026-10-19
- NVIDIA 论文实现跨模型 KV cache 迁移,转换比重跑 prefill 快 2.7~25 倍 — solyarisoftware · 2026-10-19
- pi-durable v1.3.0:SQLite 表前缀与 DO 共库协调,修内存峰值 — solyarisoftware · 2026-10-19