1299 美元 Intel B70 对阵 6500 美元 RTX 5090：本地跑 Qwen 只要一半速度、五分之一价格
maikerukonare · reddit · 2026-11-09
作者用 Intel Arc Pro B70（32GB，1299 美元）对比 RTX 5090（6500+ 美元）本地跑 Qwen3.8-27B Q6（约 3k token 提示、开启 MTP）：生成约 52 tok/s vs 98 tok/s，预填充约 960 vs 2830 tok/s，即 1/2 生成速度、1/3 预填充速度，价格仅 1/5（约 41 美元/GB vs 200+ 美元/GB）。
开箱默认体验很差，作者给出完整调优清单：
- Kernel 6.17+、开 Resizable BAR（需关 CSM，旧主板要先刷 BIOS 到 4.03）、装 kobuk-team/intel-graphics 计算运行时
- Mesa 升级到 26.x（kisak PPA），仅这一步 ollama Vulkan 生成速度提升约 3 倍
- Vulkan 下 KV cache 保持 f16：量化 KV（q80/q40）会导致 1.75x3x+ 的生成减速
- 改用 SYCL（oneAPI）编译 llama.cpp 跑 llama-server：SYCL 下可放心用 q80 KV 并开 MTP（--spec-type draft-mtp --spec-draft-n-max 4）
- Vulkan 默认只识别约 29GB 显存，用 --fit off + -c 可用满 32GB
作者机器为 Threadripper 1950X + 128GB DDR4 + PCIe 3.0 主板，结论：在 5090 溢价严重的当下，B70 是极具性价比的本地推理/创作两用卡。
「Infra」频道最新
- Jensen 出事早有预感？博主称 ASIC 崛起后已无必要手软 — teortaxesTex · 2026-11-09
- Reflection AI 发布首个模型 Beam，首位员工复盘从千卡 H100 到 GB300 集群的一年 — bigblueboo · 2026-11-09
- 美银：全球数据中心支出已破 1 万亿美元，2028 年将翻倍至 2.1 万亿 — Beth_Kindig · 2026-11-09
- 五年前的 RTX 3090 在视频生成基准上完胜 128GB 统一内存新机 — Ok_Bird4483 · 2026-11-09
- 网友讽黄仁勋"AI 安全大师计划":辞职拖垮泡沫延迟 AGI 十年 — ShakeelHashim · 2026-11-09
- Chamath：数据中心供给吃紧，SpaceX 可 90 天通知对 Anthropic 提价 2-3 倍 — rohanpaul_ai · 2026-11-09