双 3090 跑 Qwen3.8-27B 本地编码，50-65 tok/s 是否正常？
sugarfreecaffeine · reddit · 2026-08-20
Reddit 用户分享双 RTX 3090(48GB 显存)在 Windows 10 上用 llama.cpp 本地运行 Qwen3.8-27B(unsloth 动态 Q6KXL 量化)，用于本地 agentic coding。生成速度约 50-65 tokens/秒，偶降至 40 多，询问是否正常。帖子附完整 llama-server 启动命令，包含 262K 上下文、q80 KV cache、flash attention、MTP 投机解码等关键参数，可供本地部署用户参考对照。
「编程与Agent」频道最新
- 多模型同题设计 UI:用 Paseo 编排四套界面方案竞技 — vista8 · 2026-10-16
- 独立研究者发布 Cortex:用重放实测自动进化与修剪编码 Agent 的 skills 和 rules — Samuele Giampieri · 2026-10-16
- 工具调用才是 AI 编程速度瓶颈，Crabbox 五招给 Agent 提速 — steipete · 2026-10-16
- WorldBox 沙盒让 GPT-6 Astra 的 MazeBench 得分从 23 翻倍到 61 — ZhitingHu · 2026-10-16
- 两条 prompt 让 Gemini 4 Argon 把单机游戏改成完整多人对战 — chongdashu · 2026-10-16
- Anthropic 联合 Gray Swan 办 30 万美元 prompt injection 攻防大赛 — bcherny · 2026-10-16