vLLM 开源 Vela 2.0 路由模型:0.3B-9B 四种规格

vllm_project · x · 2026-10-07

vLLM Semantic Router 与 KR Labs 联合发布 Vela 2.0,将 span 级路由决策整合进单次调用:安全检查、领域分类、PII 识别与无依据断言检测一步完成。提供 0.3B、0.8B、4B、9B 四种规格,采用 Apache-2.0 协议,已在 Hugging Face 上线模型合集。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →