Qwen3.8-27B 发布三周,llama.cpp 优化后速度征集
pmttyji · reddit · 2026-09-03
- 发帖人称 Qwen3.8-27B 发布三周,获得 llama.cpp 零日支持,期间多项优化落地。
- 亮点包括:DFlash2 支持上周合入 llama.cpp;ROCm 10.0 发布并同步 llama.cpp(仅 AMD 显卡);Ubuntu 26.04.1 发布。
- 帖子本身是征集:希望社区分享在 MTP/MTP+ngram/DFlash2、不同上下文长度(128-256K)、视觉等组合下的 pp/tg 速度数据与最优 CMAKE 编译配置。
「编程与Agent」频道最新
- 点云解谜游戏走红:vibecoding 从零复刻很难,品味仍不可替代 — teortaxesTex · 2026-09-03
- 开源 TrueForge 对比 Claude 管理代理:同模型同准确率省 63% token — Background-Job-862 · 2026-09-03
- Magnitude 开源推理服务器:本地模型直接接入你现有的编码 Agent — magnitudedev · 2026-09-03
- 2.9 千星开源工具:用 LLM 从非结构化文本生成交互式知识图谱 — tom_doerr · 2026-09-03
- 开源 Open Notebook:3 万星本地版 NotebookLM,支持 4 人播客 — JafarNajafov · 2026-09-03
- AFK Pilot Cloud 上线:5 美元月租跑你的 AI 编程智能体 — PawelHuryn · 2026-09-03