General Compute 签约 Positron,GPU+ASIC 分离推理宣称吞吐最高 16 倍
testingcatalog · x · 2026-10-21
专注替代芯片的 neocloud 创业公司 General Compute 宣布与 Positron AI 达成多年期部署协议,首批部署于 2027 年 Q1 上线。
- Atlas:面向 General Compute 客户开放,起步时间 2027 年 Q1。
- Titan:定位运行更大模型和更长上下文,靠数 TB 较慢内存实现,不依赖 GPU 所需的超高带宽 HBM,待 Positron 的 Asimov 定制芯片量产 后加入。
- 技术路线:prefill 用 NVIDIA GPU、decode 用 ASIC 的分离 推理,官方宣称每机架吞吐提升 2.8 倍、端到端最快 16.2 倍。
- 平台同时提供 Cerebras CS-3 等定制芯片裸金属服务,主打代理与编码类高吞吐推理场景。
所属事件:General Compute 与 Positron 达成多年期部署合作(3 条相关)→
「Infra」频道最新
- PyTorch 官方详解 IBM Spyre 后端：KTIR 与数据流调度器如何跑通 AI 加速器 — PyTorch · 2026-10-21
- 独立开发者用 YAML 流水线+Spot GPU+vLLM 把 AI 账单大幅砍掉 — cmm324 · 2026-10-21
- DeepSeek 开源 V4.1-Flash 背后的推理引擎 DeepInfer — The Decoder · 2026-10-21
- 机器人推理平台上线 Deployments:可云端部署 HF 微调模型 — arnie_hacker · 2026-10-21
- 路透：字节阿里腾讯下单超300万块英伟达RTX PRO 5500，总价超350亿美元 — SumitGup · 2026-10-21
- TorchTPU 实测演示：vLLM 与 SGLang 统一后端跑 TPU 服务 — Rob_Mulla · 2026-10-21