社区发起 Qwen 3.8 Flash 本地推理加速赛,MLX 对决 CUDA
gajesh · x · 2026-09-11
一个社区平台同步上线 Qwen 3.8-Flash-Next,并发起首个本地推理优化挑战:同一模型在两条技术栈上比拼速度,进度画在同一张图上。
- CUDA 赛道:基于 antirez 的 ds4 C/CUDA 引擎 + Unsloth 的 GGUF 量化,跑在单台 NVIDIA DGX Spark 上
- MLX 赛道:Swift/Metal 实现
- 发帖人称已让本地模型跑得更快,欢迎社区参与优化
所属事件:Qwen 3.8 Flash Next 推理优化赛开启，MLX 与 CUDA 双赛道提速超 55%(2 条相关)→
「编程与Agent」频道最新
- 零基础学员经 AI 辅导也能跑通完整 CI/CD 流水线 — curious_vii · 2026-10-26
- Ruff 作者感叹:前沿模型能在任何软件里找到无穷多 bug — charliermarsh · 2026-10-26
- 开发者实测同一 skill 跨 Opus 5.5 与 Sol 6.1:指令遵循表现参差 — lucasmeijer · 2026-10-26
- 用小开源模型逆向工程游戏二进制:主 agent 中途重写子 agent 的 harness — yb2698 · 2026-10-26
- ContractSim：首个评估 LLM 自然语言合同谈判的框架 — xuanalogue · 2026-10-26
- Hugging Face 线下研讨会：微软、Mercor 等四方实战分享 Agent 后训练方法 — Hugging Face · 2026-10-26