gufo 推出 Windows 免编译包,Strix Halo 用户开箱即用跑本地大模型
hiImMate · reddit · 2026-10-03
Reddit 用户为 AMD Strix Halo(gfx1151)发布了 gufo 的 Windows 非官方移植版,新增免编译预打包库:下载 .zip 解压即可,附 start.cmd 一键启动并自动发现支持的量化版本。当前支持 3.8 Flash Next(UDQ4XL)、27b(UDQ4XL)、35BA3B(UDQ8XL + TeilCoder)。作者称 Flash Next 在 agentic 任务下高上下文仍能保持约 40 tps。注意事项:必须将 VRAM 设为 96GB,因为 Windows 对「共享」内存读取有额外开销。作者强调代码经 logit 校验,模型输出保持 bit-identical。
「Infra」频道最新
- DGX Spark 一货难求:筹款 8800 美元捐机计划因缺货濒临流产 — cyrus_zei · 2026-10-03
- Perplexity 宣布绑定 NVIDIA Vera CPU,自建沙盒推 Perplexity Computer — AravSrinivas · 2026-10-03
- 实测 5090 跑 Qwen3.8 27B:ninfer 达 147 t/s,胜过 llama.cpp — theexile1337 · 2026-10-03
- 用户算账:ChatGPT 白跑 30 分钟算力才报限额，单次约浪费 3-5 美元 — CautiousMagazine3591 · 2026-10-03
- AirLLM 靠分层流式加载,让 70B 模型跑进 4GB 显存 — techNmak · 2026-10-03
- GPU 是不是印钞机?SemiAnalysis 拆解推理经济与 Vera Rubin vs Blackwell — AccBalanced · 2026-10-03