Beff Jezos：解耦推理是未来,异构算力云正当其时
beffjezos · x · 2026-10-07
e/acc 发起人 Beff Jezos 表示解耦推理是未来趋势，并透露与 General Compute 就其异构算力云进行了圆桌讨论，话题包括面向解耦推理的算力分化，以及热计算如何融入其中，预告后续还有更多内容。
「Infra」频道最新
- NVFP4 让 2.4 万亿参数模型只用 1/4 GPU，单 token 成本最高降 73% — ryanshrout · 2026-10-07
- Intel 高管:agentic AI 大量时间耗在等待,关键指标是端到端时长 — ryanshrout · 2026-10-07
- 三台异构机器跑本地推理,如何统一服务与监控? — ziyaulhuk12 · 2026-10-07
- 「拥有自己的 AI」在技术上到底意味着什么? — Imaginary_Choice_430 · 2026-10-07
- NVIDIA 发布 LoGRA:低秩梯度草图把 LLM 强化学习训练内存最高省 45.7% — nvidia · 2026-10-07
- 前 NVIDIA 工程师爆料:一颗内存控制器报废的芯片如何靠 L2 完成测试 — blelbach · 2026-10-07