Omnigent 推出 LLM 成本控制:智能路由+渐进预算防账单失控
TerryTangYuan · x · 2026-09-04
Omnigent(Yuan Tang 主导)发布生产级 LLM 成本控制方案,针对调试会话或多智能体工作流失控导致的账单飙升问题,在四个环节设防:
- 预防:trivialgate 策略用轻量 LLM 把用户消息分为 TRIVIAL/COMPLEX,事实查询、寒暄、单行代码修改等琐碎请求被禁止路由到 Opus、Fable、GPT-5 等昂贵模型
- 控制:渐进式预算先告警再拦截,超支后自动降级到 Sonnet/Haiku 继续工作,不在任务中途硬停
- 可见性:/usage 页面按 harness、模型、会话维度拆分 token 开销
- 兜底:抖动检测、定时任务限额、终端操作审批
官方建议分三阶段上线:先只开可见性,再开智能路由,最后启用预算拦截。文档附有 YAML 策略配置示例,支持自托管模型的自定义定价。
「编程与Agent」频道最新
- 顾问赴哈佛培训 Opportunity Insights 团队用 agentic coding — aniketapanjwani · 2026-09-04
- 《软件工程终结》论文:Agent 编码单点超 80%,长程维护仅 38% — alex_verem · 2026-09-04
- AI 时代还读代码吗？前研究员：读代码是为了更好指挥编码 Agent — JFPuget · 2026-09-04
- 网友用 SQL+Qdrant 搭 3D 大脑,造出能记 1608 段对话的 AI 伴侣 — RoadsterAlex · 2026-09-04
- OpenRouter 谈云端 Agent:长时开发任务不必守在笔记本前 — thisiskp_ · 2026-09-04
- LlamaIndex 推出 Turbo 抽取档:快 4 倍,中位延迟 3.7 秒/页 — llama_index · 2026-09-04