Arcee 推理需求一夜暴涨 10 倍,日 token 从 100 亿冲到 1000 亿
latkins · x · 2026-10-09
DigitalOcean 分享 Arcee AI 在 Trinity Large Thinking 模型上的推理需求一夜之间从每天 100 亿 token 涨到 1000 亿 token。GPU 紧缺之下,DigitalOcean 与 NVIDIA 合作快速为其接入 Blackwell GPU。Arcee CTO 在 Open Intelligence Summit 主题演讲中谈开源模型为何需要弹性云基础设施,演讲于 10 月 13 日直播。
「Infra」频道最新
- PyTorch 原生支持 AWS Trainium,PyTorch 大会将现场演示 — PyTorch · 2026-10-09
- PyTorch + KV 缓存加速 HSTU 推荐模型，延迟最高降 5.93 倍 — PyTorch · 2026-10-09
- Emad Mostaque:OpenAI 解 Navier-Stokes 花掉千万美元算力 — rohanpaul_ai · 2026-10-09
- 76 款 GPU llama.cpp Vulkan 性价比榜：矿卡 P102-100 登顶 — tabletuser_blogspot · 2026-10-09
- 让编码智能体「永生」：Temporal 上运行 Pi 的工程实践 — bnerual · 2026-10-09
- 英国量子计算公司 Universal Quantum 融资超 1 亿美元创行业纪录 — hardimanjames · 2026-10-09