gufo-Qwen3.6-35B 本地实测:Strix Halo 上 3095 tok/s 预填充
nubela · reddit · 2026-10-03
Reddit 用户分享 gufo-Qwen3.6-35B-A3B-Q6dense 量化模型在 AMD Strix Halo 平台上的本地推理成绩:prefill 达 3095 tok/s,decode 约 190 tok/s。项目已在 GitHub 开源,对关注消费级本地部署大模型的人是一个有参考价值的性能数据点。
「Infra」频道最新
- 开发者向 GKE 沙箱项目提 PR:定期 checkpoint 防 agent 进度丢失 — yoimnotkesku · 2026-11-19
- AWS Lambda 终于支持 GPU:托管实例可跑模型推理与媒体处理 — DavidWells · 2026-11-19
- 曝黄仁勋人为制造显卡稀缺抬价获利,库存积压仍维持高价 — GaryMarcus · 2026-11-19
- AWS AgentCore Identity 支持私有 CA,Agent 可直连内网自建 IdP — AWS ML Blog · 2026-11-19
- 爆料:中国秘密研发百万卡级无HBM训练集群,国产芯片架构存疑 — teortaxesTex · 2026-11-19
- 腾讯被曝最少买国产芯片,转用日本 neocloud 训模型 — teortaxesTex · 2026-11-19