双卡 Arc Pro B60 跑 35B 模型推理速度达 100 tok/s

一项推理部署结果显示，在 2 张 Intel Arc Pro B60 显卡上，使用 QuixiCore SYCL kernel 运行 35B-A3B 模型的 NVFP4 量化版本，推理速度达到了每秒 100 token。这一成果展示了 Intel 显卡在本地大模型推理场景下的性能潜力，为高性价比推理硬件提供了新的参考方案。

2026-07-19 ~ 2026-07-19 · 2 条相关