独立开发者用 YAML 流水线+Spot GPU+vLLM 把 AI 账单大幅砍掉
cmm324 · reddit · 2026-10-21
Reddit 用户 cmm324 分享自己的产品目录站经验：每晚 2 点跑 AI 流水线（提取、分类、描述、去重），几个月花掉约 $1000 OpenAI 费用。改用 Batch API 后发现它不适合多步流水线——步骤间有依赖、要调自己的 API、缺输出校验，胶水代码全得自己写且质量最差。
后来他在首尔的一台 spot GPU 上用 vLLM 跑开源模型，成本只要零头，于是花几个月把调度器和胶水代码做成正式工具：
- 流水线写成一个 YAML 文档
- 每步输出先过 schema 校验再传给下一步
- 整张任务图在自选 deadline（最长一周）内跑在 spot GPU 上
- 支持调用自己端点的 tool call 和人工步骤
- 配图示例为支持工单流程，10 节点、单条成本约 $0.0089
目前唯一用户是他自己，正在征集有夜间/每周批量 AI 任务的人帮忙测试，提供 $20 额度换真实反馈。
「编程与Agent」频道最新
- RunInfra 推出编程订阅计划：$10/月可用 19 个 agent 跑最快开源模型 — ycombinator · 2026-10-21
- Matt Shumer 推出邮件 AI 员工:发邮件派活,自动回邮交差 — mattshumer_ · 2026-10-21
- uv 与 ty 集成:PEP 723 脚本类型检查这样开启 — charliermarsh · 2026-10-21
- Astral 发布 uv-ty 实验性集成:uv check 一键类型检查 — charliermarsh · 2026-10-21
- 开发者自建效率追踪:用 Claude 后快 7.1 倍,两月攒下 2.5 工作年 — arthurcolle · 2026-10-21
- Librarian Agents 论文:智能体自建文件系统,RAG 准确率 44% 升至 77% — simonguozirui · 2026-10-21