Qwen 3.8 27B本地编码实测:128K上下文73 tok/s,4bit量化流畅运行
julianharris · x · 2026-08-17
开发者测试Qwen 3.8 27B在RTX 4090上本地运行,使用4bit量化(unsloth)和MTP加速,128K上下文下达到73 tok/s,完全可用。关闭思考模式速度略升至78 tok/s但质量明显下降。相比Qwen 3.6,安装更简单、更稳定。
所属事件:Qwen3.8-27B本地部署实测:单卡稳定跑Agent与超长上下文(3 条相关)→
「编程与Agent」频道最新
- 设计反馈工具 Inflight 发布:让 Claude 直接消化原型反馈 — soleio · 2026-10-16
- Apple 代码签名耗时数小时,官方建议:等一周 — pjausovec · 2026-10-16
- 4B 模型加 8K 上下文堆算力反而更差,Hermes 提出上下文推理新思路 — mangahomanga · 2026-10-16
- Flux 3 Klein 默认模板有坑:必须接 prompt upscaler 才能出好图 — StrictMove5839 · 2026-10-16
- 21 人团队 AI 写 97% 代码,每周数百 PR,16% 自动合并 — rseroter · 2026-10-16
- ClosedMCP:一次配置 MCP,跨平台团队共享的 Serverless 方案 — Ok_Sprinkles1301 · 2026-10-16