NVIDIA转发Arcee推理案例
latkins · x · 2026-07-15
NVIDIA AI Infra 账号转发了 Arcee AI 的案例：这家美国 AI 实验室基于 NVIDIA Blackwell Ultra 构建了其开放模型家族。
帖子里给出的信息包括：
- 旗舰 MoE 模型 Trinity-Large-Thinking 使用 NVIDIA NeMo 开源库进行了 RL 后训练；
- 通过 NVIDIA Dynamo、vLLM 和加速网络做 agentic 推理优化，以降低 token 成本；
- 上线前两个月在 OpenRouter 上累计服务 3T+ tokens；
- 成本约为 每 100 万输出 token 0.90 美元；
- 在 open agentic models 里拿到 PinchBench 第二名。
整体是在强调 NVIDIA 基础设施对开放模型推理与成本优化的支撑。
「Infra」频道最新
- Anthropic S-1 曝超 8000 亿美元未入表的未来算力承诺 — GaryMarcus · 2026-10-27
- Anthropic 约 11GW 算力合同中 NVIDIA GPU 占约 42% — ns123abc · 2026-10-27
- EdgeRock-4B KV cache 256K 上下文仅 72 MiB,比 Qwen3.5-4B 小 99.1% — alifcoder · 2026-10-27
- RTX 5080 十天涨价 40%:1658 美元飙至 2318 美元 — Frizzy-MacDrizzle · 2026-10-27
- 12GB 显存实测:不设 VRAM 上限,出图从 24 秒变 11 分钟 — Impossible-Mail-4619 · 2026-10-27
- Neon 自吃狗粮：文档搜索全部改用自家 Lakebase Search 等 AI 组件 — matei_zaharia · 2026-10-27