Qwen3.8 27B 上线 Cerebras，推理速度高达 1500 tokens/s
gibbonwalker · reddit · 2026-09-04
Reddit 用户转发 Hacker News 上的消息：Qwen 3.8 27B 现已在 Cerebras 平台可用，生成速度达到 1500 tokens/s，作者直呼「疯狂」。对需要超低延迟、高吞吐本地级推理体验的用户来说是目前罕见的速度档位。
「Infra」频道最新
- Agent 应用瓶颈在沙盒启动速度，git 可作状态原语 — w_hgm · 2026-09-04
- NVIDIA 开源 PAIR 测试版:自动把本地 AI 推理分派到局域网多台电脑 — Codeblix_Ltd · 2026-09-04
- AI 相关进口拉爆美国贸易数据：电脑及零件年化近 7000 亿美元 — rjurney · 2026-09-04
- Memphis 算力中心故障致 Grok 中断,xAI 致歉称已全部恢复 — SpaceXAI · 2026-09-04
- 开源本地 AI 平台 Quartermaster：自动按显存配置模型加载 — OneMoreName1 · 2026-09-04
- SemiAnalysis 点赞 vLLM 针对 Agent 负载的新优化 — woosuk_k · 2026-09-04