Strix Halo 实测:Swift 1.5 vs Unsloth 量化,Qwen3.8 跑分对比
deepu105 · reddit · 2026-10-26
作者在 Asus ROG Flow Z13(128GB 统一内存,70W)上对比 UkisAI 的 Swift 1.5(宣称思考 token 省 63%、精度损失 <1%)与 Unsloth UD-Q4KXL 等 Qwen3.8-Flash-Next 量化版本,横跨 Halogen、gufo、llama.cpp 三引擎并统一启用 MTP。作者还因 gufo 无法加载 UkisAI 的 4-bit GGUF,自行用 UkisAI 的 imatrix 将 Swift Q80 重量化为与 Unsloth 相同的 per-tensor 类型(同为 111.3GB)。
主要结果(单次运行,仅供参考):
- Halogen 原生格式(v2 .hgn)质量最高:15/17,160 分钟,decode 51-60 t/s
- gufo + Swift UD-Q4KXL 重量化:13/17 但最快,136 分钟,Pi 编码任务仅 24 分钟/56k tokens
- llama.cpp 全面落后:prefill 300 t/s(其他 900-1400),总分相同但耗时 2-3 倍
- gufo + Unsloth UD-Q4KXL 得 14/17,TTFT 最优(20-27s)
作者主用编码 Agent,测试含 11 个 Pi 编码任务、数学与 LCB 任务,32k 填充 prompt 下测速。
「Infra」频道最新
- 30 天烧掉价值 5300 美元的 token，订阅制只付了 300 美元 — theteknosaur · 2026-10-26
- Jane Street 等高频交易巨头自建数据中心、投资芯片创业公司 — The Decoder · 2026-10-26
- 仓鼠跑轮供能跑本地 AI：直播界面显示速度 0.1、AI 负载 22% — Sad_Measurement_7502 · 2026-10-26
- 1 万美元预算配本地 agentic 编码机器：单卡 5090 还是 4×3090？ — Shadmelor · 2026-10-26
- 自建本地推理集群日耗 24 万度电，网友戏称「中彩票的信号」 — TheZachMueller · 2026-10-26
- Gartner：2030 年前超 80% neocloud 将无法独立存活，4 万亿美元资产面临减值 — rohanpaul_ai · 2026-10-26