Cloudflare 采用 SGLang 服务 Clef,单 H200 决策延迟低于 40ms
ying11231 · x · 2026-10-13
SGLang 团队宣布 Cloudflare 正在用 SGLang 提供其 Clef 模型的推理服务,通过现有 /v1/systemone API 开放,并已将 Clef 支持与性能优化回馈上游:
- 经官方参考实现验证
- Clef-Flash 在单张 H200 上决策延迟低于 40ms
- 一次 prefill 可回答 64 个问题,支持文本与图像
- Clef-Omni 支持即将推出
引用上下文:Clef 同时发布 clef-omni(支持音频/视频/图像/文本输入),clef-flash 定价低于 jev,clef 速度提升约 2 倍。
「Infra」频道最新
- 富士康曝光自动化战略:Omniverse 虚拟验证 + GR00T 人形机器人已投产 — firstadopter · 2026-10-13
- LiquidAI 发布 d1 系列 MLX 版本,原生适配 Apple Silicon 本地运行 — JosephJacks_ · 2026-10-13
- Apple 私有云计算新固件现 vserver 镜像,macOS 虚拟化服务器或将至 — jedisct1 · 2026-10-13
- HF 工程师提醒:多沙盒场景别乱来,本地 CPU 即可跑 — TheZachMueller · 2026-10-13
- Celesto CI 算账:1000 个任务比 GitHub Actions 便宜 9 倍 — aniketmaurya · 2026-10-13
- Keurig 咖啡机 10 天跑 1TB 流量,当事人复盘:单位故障 — gnukeith · 2026-10-13