越来越多公司用中小开源模型替换编码 Agent:更便宜且可控
nir_benz · x · 2026-09-25
nirbenz 回应「为什么普通公司要自己做大模型推理」:即便官方基准打折扣、实际能力接近中档闭源模型(Sonnet 一档),开源自托管仍显著更便宜,且近几个月 self-serving 越来越容易。更多公司出于安全与隐私考虑,正尝试用这类模型替换现有 coding agents。
此外中小模型(Gemma、27B 级 Qwen)的需求在上升——能在简单任务上提供实时响应;图像和视频模型则更小,同样适用这一逻辑。
所属事件:Inference Engineer 成热招岗位,开源自托管推理兴起(3 条相关)→
「编程与Agent」频道最新
- Obsidian Starter Kit v4:把笔记库变成带 MCP 的强类型 AI 知识库 — dSebastien · 2026-09-25
- 72 美分找到 20 个销售线索:RouterGrowth 发布「面向销售的 OpenRouter」 — aliscodes · 2026-09-25
- 以色列开发者用 Claude 远程编码:写诉状、回邮件、录 demo 找合作 — aloncarmel · 2026-09-25
- 子 Agent 生了子 Agent,出了事谁负责?多智能体权限链成盲区 — Fantastic-Sleep-3352 · 2026-09-25
- 开发者称 Codex 已完全取代 Claude Code 成主力编程工具 — eptwts · 2026-09-25
- Weco 预印本:agent 八天自主改进自身软件七项,提升泛化到四个保留基准 — VraserX · 2026-09-25