越来越多公司用中小开源模型替换编码 Agent:更便宜且可控

nir_benz · x · 2026-09-25

nirbenz 回应「为什么普通公司要自己做大模型推理」:即便官方基准打折扣、实际能力接近中档闭源模型(Sonnet 一档),开源自托管仍显著更便宜,且近几个月 self-serving 越来越容易。更多公司出于安全与隐私考虑,正尝试用这类模型替换现有 coding agents。

此外中小模型(Gemma、27B 级 Qwen)的需求在上升——能在简单任务上提供实时响应;图像和视频模型则更小,同样适用这一逻辑。

所属事件:Inference Engineer 成热招岗位,开源自托管推理兴起(3 条相关)→

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →