Tokenless 发布 AI 网关:动态路由模型调用,成本砍半
rohaga · hn · 2026-07-29
Tokenless (YC S26) 推出了一款 AI API 网关,能够在多轮对话中动态切换底层模型以降低推理成本。
- 核心技术:同时查询多个模型并根据其生成进度决定路由,且切换模型时不会破坏缓存。
- 实测效果:在达到与 Claude 3.5 Sonnet 相当性能的同时,将成本降低了一半。
- 背景:创始人为普林斯顿大学博士生,该路由算法在内部测试中迅速达到 SOTA。
- 后续计划:将接入 Kimi K3 等更多模型。
「编程与Agent」频道最新
- Plannator 发布技能:用 HTML 生成 Agent 交互原型 — tom_doerr · 2026-08-24
- DocketBird MCP 服务器:支持搜索下载法院文档 — modelcontextprotocol · 2026-08-24
- AgentLux MCP 服务器:支持市场和社交流程 — modelcontextprotocol · 2026-08-24
- MongoDB 发布 Agent 工具包,让编码助手精通数据库 — TheTuringPost · 2026-08-24
- 开发软件前先让 Agent 查开源库,99% 的情况是正解 — generativist · 2026-08-24
- 开发者瓶颈不在 AI 上下文,而在人脑认知负荷 — Vidhrohi · 2026-08-24