用 Codex 几分钟在 vLLM 搭出非优化版复现,跑上 DGX Spark
remilouf · x · 2026-09-19
作者 remilouf 表示,让 Codex 用他们的 type safety 库在几分钟内搭出一个未优化的 vLLM 版本,并在 DGX Spark 上跑通;本周计划换真正的 base 模型和更大硬件再试。
在被引用的原推中他指出:做一个至少同样快、输出 token 免费的开源替代版本(对应 Jev)其实非常简单;真正的难点在于能否做到通用且校准良好,而这可能取决于用干净数据做后训练。对于同时结合分类和工具调用的场景,还可以做得更快。
所属事件:开发者数分钟复现开源替代并跑通 DGX Spark(2 条相关)→
「编程与Agent」频道最新
- LLM 下棋站更新:隐藏 AI 内部笔记防剧透,支持切换思考档 — MikePFrank · 2026-09-19
- AI Agent 代替用户打客服电话,对方全程没发现是机器人 — armand_ruiz · 2026-09-19
- 5 分钟从零训练 9M 参数 LLM,GuppyLM 开源项目火了 — tom_doerr · 2026-09-19
- 让 Agent 操作浏览器,最难搞的其实是网站改版 — SelfZealousidealy · 2026-09-19
- PowerShell 老手搭 AI 实验室:从想法到可运行代码全自动 — dfinke · 2026-09-19
- 网友靠 agent 整夜收集 382 个 Jev 实战 demo 汇成目录站 — thisiskp_ · 2026-09-19