Reddit 实测:Tiel-Coder-35B MoE 本地跑速超 Qwen,256K 上下文
zxspectrun · reddit · 2026-11-05
Reddit 用户分享本地部署经验:在 Qwen 3.8 27B 对自己的硬件偏重后,改用社区模型 IsValorum/Tiel-Coder-35B-A3B-APEX-I-MiniPlus-V2.1-GGUF,能力不输 Qwen 但明显更快。
- 硬件:Ryzen 5 3600、40GB DDR4、RX 7900 XT(20GB 显存)
- 部署:BeeLLama.cpp + Llama Swap,模型全进显存,256K 上下文,Kvarn8 缓存级别
- 作者附了生成速度截图,表示愿意分享完整配置
「Infra」频道最新
- PyTorch Day Japan 议程：用 ExecuTorch 把反向传播带入机器人实时推理 — PyTorch · 2026-11-05
- VibeSys 用 Agent 为 Trainium2 自动生成 Qwen3.8 推理引擎 — bariskasikci · 2026-11-05
- YC 支持的 OpenLakeHQ 发布：开源模型接入数据后持续训练托管 — ycombinator · 2026-11-05
- Stanford 发布 ParallelKernelBench：最强模型零样本仅 32% 正确率 — burny_tech · 2026-11-05
- AI 算力生意暗藏 WeWork 式风险:长债短收的结构性错配 — bookwormengr · 2026-11-05
- SK 海力士:存储供不应求将持续到 2030 年 — Beth_Kindig · 2026-11-05