Liquid AI 实测:B300 GPU 高并发下输出超 2.1 万 tokens/s
JosephJacks_ · x · 2026-10-14
Liquid AI 展示其模型在 NVIDIA B300 GPU 上的推理扩展表现:高并发场景下输出速度超过 21,000 tokens/s。转发者强调从 MacBook 到 Blackwell GPU 都能流畅运行,显示该系列模型在端侧到数据中心的全栈推理能力。
「Infra」频道最新
- Cooler Master 推 300kW 液冷 CDU，峰值 450kW 兼容 GB200/GB300 — BenBajarin · 2026-10-14
- MSAR 多头深度注意力架构：18B/28B 上全面超越 AttnRes 与 mHC — SonglinYang4 · 2026-10-14
- Cloudflare 数据管线每秒处理 20 亿事件,优化省下两年半硬件扩张 — irvinebroque · 2026-10-14
- 韩国林业厅将部署 74 套 Starlink，实测下行 162 Mbps — XFreeze · 2026-10-14
- ThunderSyncRL:无策略陈旧前提下把Agentic RL提速1.9倍 — heghbalz · 2026-10-14
- Agent 单位成本半年降九成，乐观派回应 Bloomberg 算力成本飙升论 — sudoraohacker · 2026-10-14