Qwen3.6 在双B60上跑到65 tok/s
QuixiAI · x · 2026-07-10
有人将 nvidia/Qwen3.6-35B-A3B-NVFP4 跑在双 B60 上，并使用自定义 SYCL kernel 进行优化。测试结果显示上下文长度可达 128k，推理速度为 65 tok/s，且未启用 DFlash。
QuixiAI · x · 2026-07-10
有人将 nvidia/Qwen3.6-35B-A3B-NVFP4 跑在双 B60 上，并使用自定义 SYCL kernel 进行优化。测试结果显示上下文长度可达 128k，推理速度为 65 tok/s，且未启用 DFlash。