AI 离线推理怎么做？开发者热议批量任务的最佳工程实践
cmm324 · reddit · 2026-08-03
一位开发者在 Reddit 发起讨论，询问大家在处理不需要即时响应的 AI 离线/批量推理任务时，目前采用的最佳工程方案。
作者列举了常见的异步工作负载，包括：
- 为大型语料库生成嵌入（embeddings）
- 丰富产品目录数据
- 评估提示词或模型
- 图像或视频生成队列
- 处理数百万行数据
- 每日或每周定时任务
他特别向社区征集大家在 Provider 批量 API、自建队列与 Worker、Airflow/Temporal/Celery、Kubernetes Jobs 以及 AWS Batch/Spot 等方案中的实际使用体验：哪些方案真正好用？哪些又比预期更痛苦？如果能重新选择，最想改变当前架构的哪一点？
「编程与Agent」频道最新
- 实测 OpenAI Codex：全自动投放广告并请求付款 — gdb · 2026-08-03
- 开发者打造“环境感知”智能体应用：全局接管代码与屏幕 — RileyRalmuto · 2026-08-03
- ADHD 技能：为 AI 编程助手加入思维树剪枝 — Saboo_Shubham_ · 2026-08-03
- 开发者推出 Doppel：低消耗的真实浏览器 MCP 工具 — No_Airport_1450 · 2026-08-03
- 提升 Codex 使用效率：在单线程内叠加更多技能 — EverydayAI_ · 2026-08-03
- 用自动化脚本清理 Codex 残留进程，让电脑降温并保持流畅 — alexcovo_eth · 2026-08-03