YC新创Isoquant上线:GLM-5.3-Flash推理$0.07/M,首token仅452ms
ycombinator · x · 2026-09-25
Y Combinator 孵化的 Isoquant 推出 Inference Cloud,主打市场上最快最便宜的 GLM-5.3-Flash:输入 $0.07/M tokens、输出 $0.20/M、缓存输入仅 $0.014/M;P50 首 token 延迟 452ms、端到端 2.3 秒、吞吐 158.9 tok/s,自测对比中显著快于 Together、CoreWeave、Fireworks、Baseten 等主流推理商(官方口径)。
技术栈上从 GPU kernel、混合精度、投机解码到 KV cache 与负载均衡做了全链路优化,同时上线 Qwen3.6-27B。API 兼容 OpenAI/Anthropic SDK,支持流式、工具调用、结构化输出、图像输入与自动 prompt 缓存,宣称零数据留存。
「Infra」频道最新
- Starlink 美国城市用户增速 73% 反超农村,上传速度提升 42% — XFreeze · 2026-11-11
- Cloudflare 采用未经实战的共识算法 QuePaxa,替代 Raft/Paxos 建 Meerkat — sull · 2026-11-11
- 用 AI 扫遍全美废弃商场,改造成数据中心的脑洞 — LinusEkenstam · 2026-11-11
- Anthropic S-1 曝 260 亿美元私募:七大供应商按 IPO 价入股 — demian_ai · 2026-11-11
- SpaceXSI 1.2GW 燃气电厂获密西西比州环保许可,为 Colossus II 供能 — XFreeze · 2026-11-11
- Anthropic 称用 AI 3 天完成 AMD GPU 移植,动摇 Nvidia CUDA 护城河 — The Decoder · 2026-11-11