Ryzen AI Max+ 395 跑 Qwen3.8 实测：llama.cpp 调参提速 48%
Prudence-0 · reddit · 2026-11-09
Reddit 用户分享在 Ryzen AI Max+ 395（96GB 统一显存）上用官方 llama.cpp 优化 Qwen3.8-Flash-Next 推理的配置，在 64k 以上长上下文的编码与创作任务中提速 48% 且 tok/s 更稳定，无需更换第三方推理引擎。
帖子给出完整启动参数：--fit on + --flash-attn、KV 缓存量化为 q80（-ctk q80 -ctv q80）加 --kv-unified、131072 上下文 + --ctx-checkpoints 128、双并行连续批处理，以及 ngram speculative decoding 参数（match 24 / max 16 / min 4）。采样用 temp 1.0、top-p 0.95、top-k 20。
作者还推荐自测的量化版本 Qwen3.8-Flash-Next-Uncensored-Gufo-Q4Mix，认为质量与性能平衡较佳。附图显示 67 个请求处理了 334 万 prompt token、缓存 328 万 token。
「Infra」频道最新
- Vivienne Reddi 演示用 AI 一句话设计 3W 内 RISC-V 芯片 — satnam6502 · 2026-11-09
- Appwrite 创始人发布 MCP1:一个 URL 接入团队全部 MCP 服务器 — eldadfux · 2026-11-09
- 沙特 HUMAIN 联合国家基础设施基金设立最高 25 亿里亚尔 AI 基建融资 — HUMAIN · 2026-11-09
- 两个本地模型的 chat template 静默坑掉 agent 客户端,作者给出排查清单 — viest_me · 2026-11-09
- GPU 编程 365 天打卡第 309 天：实操边缘端 LLaMA2-7B 优化 — NandoDF · 2026-11-09
- Waymo 首谈为何弃纯视觉：camera-only 易上手却难破 99.9% 之壁 — 4310sy · 2026-11-09