在NVIDIA Blackwell上优化LLM推理TPS，乐趣无穷
abhijithneil · x · 2026-07-31
用户abhijithneil表示认真对待LLM推理优化，在NVIDIA Blackwell上提升所有最新模型的TPS（每秒token数）是最有趣的事情。
「Infra」频道最新
- 吉卜力爆火致算力告急，消费级需求正拖累 AI 发展 — BenBajarin · 2026-07-31
- 高通预告骁龙峰会将发布两款旗舰移动芯片 — ryanshrout · 2026-07-31
- SK海力士HBM利润率高达76%，AI算力基础设施估值逻辑生变 — km · 2026-07-31
- Cloudflare AI Search 原生支持 LangChain 与 AI SDK — irvinebroque · 2026-07-31
- 大佬观点:低利率环境证明当前AI算力投资并未过剩 — tszzl · 2026-07-31
- OpenAI 大幅下调 GPT-5.6 价格，Luna 暴跌 80% — Simon Willison · 2026-07-31