本地部署 token 免费用,工程师求助:哪些任务在零推理成本下才划算
AbbreviationsLoud182 · reddit · 2026-11-15
一位 AI 工程师分享公司本地部署了 DeepSeek V4.1 Flash 1017,他几乎可以不计 token 成本地使用,目前主要配合 Pi 编码 agent 做循环实验和编码任务。
他列出的候选方向包括:长时间运行的编码 agent、自动化代码审查与仓库审计、生成测试与边界用例、后台研究与文档维护、大规模评测与数据标注。他更想知道大家实际在跑什么,以及哪些任务该留给更强的前沿模型,哪些可以放心交给本地模型。
这本质上是「推理成本不再约束时,工作流会发生什么变化」的开放讨论帖。
「编程与Agent」频道最新
- 用 Rust+wgpu 重写代码画布,25万文件依赖图稳定 60fps — IgorCarron · 2026-11-15
- 开发者反思:模型已够强,多数 agent 编排结构只是「token 焚化炉」 — pvncher · 2026-11-15
- DataTalksClub 创始人办德国全日制 AI 学院,学费可走 Bildungsgutschein — Al_Grigor · 2026-11-15
- 增长也交给 Agent:Apollo 找客、Instantly 触达、广告自动循环 — FinanceYF5 · 2026-11-15
- AI 原生公司指南:需求到部署搭一条全自动开发生产线 — FinanceYF5 · 2026-11-15
- 让 AI 系统越用越好:50 个标准案例回归测试加周度手册修订 — FinanceYF5 · 2026-11-15