用 Codex 几分钟在 vLLM 搭出非优化版复现,跑上 DGX Spark

remilouf · x · 2026-09-19

作者 remilouf 表示,让 Codex 用他们的 type safety 库在几分钟内搭出一个未优化的 vLLM 版本,并在 DGX Spark 上跑通;本周计划换真正的 base 模型和更大硬件再试。

在被引用的原推中他指出:做一个至少同样快、输出 token 免费的开源替代版本(对应 Jev)其实非常简单;真正的难点在于能否做到通用且校准良好,而这可能取决于用干净数据做后训练。对于同时结合分类和工具调用的场景,还可以做得更快。

所属事件:开发者数分钟复现开源替代并跑通 DGX Spark(2 条相关)→

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →