开发者在 128GB RTX Spark N1X 上调通 Qwen3.8-Flash-Next W4A16 量化并开源
mycall · reddit · 2026-10-26
发帖人花了几天时间，让 Qwen3.8-Flash-Next-W4A16-AutoRound-hybrid 量化版本在 RTX Spark N1X（128GB 统一内存，其中 88GB VRAM）的 Windows on Arm 设备上，通过 WSL3/Ubuntu-26.04 跑出了满意的效果，并将配置与脚本开源到 GitHub（mycall/n1x-ai），希望帮到其他在 N1X 上折腾本地模型的人。
「Infra」频道最新
- 算力租赁价格全线走高,Meta 10-Q 承认融资建算力压力大 — AccBalanced · 2026-10-26
- Han Xiao开源DeepSeek去审查版部署：4张RTX 6000跑出200 tps — burny_tech · 2026-10-26
- 美光十天两大动作：后里第二座先进封装厂投产，剑指HBM — tengyanAI · 2026-10-26
- 64 卡 NVL72 集群多余的 8 张卡去哪了？答案：待机到故障为止 — _xjdr · 2026-10-26
- Jalapeño 芯片本质是脉动阵列+HBM，自研推理芯片没那么神秘 — ai · 2026-10-26
- B200 实测：torch.compile 关一个开关，同一计算提速 4.53 倍 — cfregly · 2026-10-26