YC AI Office Hours:Wafer 延迟比 Cerebras 低 44%
ycombinator · x · 2026-09-27
YC 为其「AI Office Hours」项目——让创业者与 YC 合伙人的 AI 版本对话获取创业建议——选型时对比了多家推理服务商。
关键数据：
- Wafer 上跑 GLM-5.2 平均延迟 379 ms，Cerebras 上跑 Gemma 4 31B 为 674 ms，低 44%，且模型更大
- YC 先测试了轻量级 Gemma 和 OpenAI 模型，最终改为使用 Wafer 的专用端点
- Wafer 的 agent 针对,YC 的请求速率、缓存命中和输入输出长度调优了 serving 配置
- 用户在 Wafer 上与 AI 合伙人的对话时长比其他供应商多 2.5 分钟
「Infra」频道最新
- 百度发布 ERNIE Evolve 自动研究系统,NanoGPT Speedrun 超公开最好成绩 — xiaohu · 2026-11-11
- 百度首次用 RSI 自动优化文心推理,昆仑芯出字速度提升 6.24 倍 — xiaohu · 2026-11-11
- Nvidia 供应承诺单季从 1190 亿飙至 2790 亿美元，锁死 2027-28 显存 — tengyanAI · 2026-11-11
- 独立研究者新优化器：24GB 显存可训 27B 模型，权重仅需 1.6bit — oguzeldereli · 2026-11-11
- 英伟达扩大与 Meta 的 Muse 合作,将向 Meta 投资 30 亿美元 — armand_ruiz · 2026-11-11
- 网友算账质疑 Anthropic:Opus 5.5 十亿美元成本大头不在算力 — teortaxesTex · 2026-11-11