Decision Models 决策模型登陆 AntSeed 推理市场,Auto Router 降本至 24%
airesearch12 · x · 2026-10-21
Decision Models 宣布其模型正式上线 AI 推理开放市场 AntSeed:
- Decision API:提供 s1-fast(快速低价)、s1-pro(最高精度)、s1-llm-auto-router(路由分类器)三款决策模型,输出为每个选项一个答案加概率(Jev 兼容格式),并提供面向隐私的低成本 Peer-to-peer 层和 EU 隐私层。
- Auto Router:跨 176 个模型为每个请求自动选择最合适的模型。图中对比显示:固定使用 Opus 5.5 处理 60 个请求为 100% 成本,Auto Router 达到 57/60 的正确率但成本仅 24%。
展示了「小模型路由 + 大模型兜底」的降本方案在推理市场的商业化落地。
所属事件:Decision Models 登陆 Antseed，开源自动路由按请求选模型(2 条相关)→
「Infra」频道最新
- 企业 token 支出增速从 42% 骤降至 0.2%,超大规模厂商 ROIC 跌至 20% — SumitGup · 2026-10-21
- 高通全球裁员转战 AI 数据中心：目标 2027 年 50 亿美元营收 — rohanpaul_ai · 2026-10-21
- vLLM 登台 PyTorchCon 2026：跨 TPU、AMD、NVIDIA 优化 KV cache 与内核 — PyTorch · 2026-10-21
- antirez 尝试用 DeepSeek Infer 为 DGX Spark 优化 DwarfStar 内核 — antirez · 2026-10-21
- 三进制 2-bit 端侧模型 Ternary-Bonsai-2-9B 上架 HF,支持视觉输入 — prism-ml · 2026-10-21
- GPU 管预填、Positron 管解码:异构推理组合瞄准内存带宽瓶颈 — cneuralnetwork · 2026-10-21