推理框架 Strata 新增 Qwen 3.6 35B 支持,MI50 上解码速度不敌 llama.cpp

JsThiago5 · reddit · 2026-10-24

Reddit 用户在 AMD MI50 (gfx906, 16GB) 上实测推理框架 Strata 新支持的 Qwen 3.6 35B,发现其解码速度反而不如 llama.cpp。对于关注本地/端侧部署和 AMD 老卡推理性能的用户来说,是一个具体的实测数据点。

原文链接 →

「Infra」频道最新

• llama.cpp 新 PR 去掉 kq_mask 构建 QSA 选择,为 Qwen 省下数 GB 显存 — jacek2023 · 2026-10-24
• Chronos:给 agent 用的 Postgres 兼容数据库,违规写入自动拦截 — Antique-Willow-5841 · 2026-10-24
• Altman：OpenAI 押注「机器人造机器人」的自增强循环 — rohanpaul_ai · 2026-10-24
• 64GB 内存+RTX 3060 跑满血 DeepSeek-V4.1-Flash：7.4 tok/s、98.3% 一致率 — Muted_Context_1999 · 2026-10-24
• Cloudflare 推出 Origin Range Requests：R2 首字节 p99 延迟减半 — Cloudflare Blog · 2026-10-24
• 单张 5090 实测 7 款 Qwen3.8 推理引擎,Basalt 解码最快 — jesdga95 · 2026-10-24

更多「Infra」频道 AI 资讯 →