Cloudflare 采用 SGLang 服务 Clef,单 H200 决策延迟低于 40ms

ying11231 · x · 2026-10-13

SGLang 团队宣布 Cloudflare 正在用 SGLang 提供其 Clef 模型的推理服务,通过现有 /v1/systemone API 开放,并已将 Clef 支持与性能优化回馈上游:

引用上下文:Clef 同时发布 clef-omni(支持音频/视频/图像/文本输入),clef-flash 定价低于 jev,clef 速度提升约 2 倍。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →