YC 系 Prism 推出开源 LLM 推理云,DeepSeek V4.1 Flash 达 547 tok/s
ycombinator · x · 2026-09-25
YC 支持的初创公司 Prism 发布同名推理云服务,主打用 agent 自动优化开源模型部署的成本、延迟与吞吐。
- 提供 DeepSeek-V4.1-Flash(552B MoE,1M 上下文)、GLM-5.3(744B MoE)、Kimi K3、Qwen3.8(2.4T MoE,95B 激活)、Qwen3.6(35B-A3B)等模型,API 兼容 OpenAI 与 Anthropic 格式
- 称以自研 Prism Engine 服务 DeepSeek V4.1 Flash 可达约 547 tok/s,比主流供应商快最高 5.8 倍
- 定位为面向 agent 工作负载的 serverless 推理,无需自管基础设施
「Infra」频道最新
- Starlink 美国城市用户增速 73% 反超农村，上传速度提升 42% — XFreeze · 2026-11-11
- Cloudflare 采用未经实战的共识算法 QuePaxa,替代 Raft/Paxos 建 Meerkat — sull · 2026-11-11
- 用 AI 扫遍全美废弃商场，改造成数据中心的脑洞 — LinusEkenstam · 2026-11-11
- Anthropic S-1 曝 260 亿美元私募：七大供应商按 IPO 价入股 — demian_ai · 2026-11-11
- AMD 10Q 披露收购 Taalas 花费 29 亿美元,将 LLM 权重烧进硬件 — deedydas · 2026-11-11
- SpaceXSI 1.2GW 燃气电厂获密西西比州环保许可,为 Colossus II 供能 — XFreeze · 2026-11-11