Reddit 热议:exl3/tabbyapi 被忽视?压缩率和速度优于其他后端
C1oover · reddit · 2026-08-17
Reddit 用户 C1oover 发帖询问为何 exl3/tabbyapi 后端不受关注。他测试多个后端后发现,exl3 在压缩率(每比特)上优于其他方案,且在 3090 上运行 Qwen 27 和 Gemma 31 比 llama.cpp 和 vLLM 优化版更快。他质疑是否自己遗漏了什么,还是该后端在 subreddit 中被遗忘。
「Infra」频道最新
- Stripe 70 亿美元收购 OpenRouter,卖铲子的先赢了 — sven_ai · 2026-08-17
- AI 支出泡沫失控:云厂商未来承诺破 3 万亿美元 — GaryMarcus · 2026-08-17
- AI能耗巨大,如何从物理与伦理实现净正面? — AryHHAry · 2026-08-17
- Merge Gateway 接入 Grok 4.6 并提供限时折扣 — shensi · 2026-08-17
- 对比 20 年前,现代开发者的每一次提交都触发庞大算力 — andreisavu · 2026-08-17
- 调查指微软 AI 芯片缺口达数百万颗 — nordicinst · 2026-08-17