Tokenless 发布 AI 网关：动态路由模型调用，成本砍半
rohaga · hn · 2026-07-29
Tokenless (YC S26) 推出了一款 AI API 网关，能够在多轮对话中动态切换底层模型以降低推理成本。
- 核心技术：同时查询多个模型并根据其生成进度决定路由，且切换模型时不会破坏缓存。
- 实测效果：在达到与 Claude 3.5 Sonnet 相当性能的同时，将成本降低了一半。
- 背景：创始人为普林斯顿大学博士生，该路由算法在内部测试中迅速达到 SOTA。
- 后续计划：将接入 Kimi K3 等更多模型。
「编程与Agent」频道最新
- 四个 Gemini 4 Argon 智能体27小时通关 Minecraft 击败末影龙 — robertarail · 2026-10-16
- 开发者晒沙粒自动修复组件：弄乱沙子会自动复原 — prasenx · 2026-10-16
- Agent 何时需要 API 网关：Reddit 热议直连与统一接口的分界线 — TurbulentStiffness · 2026-10-16
- 开源工具 optimAIzr 逐轮追踪 Claude Code/Codex token 浪费 — stichstichstich · 2026-10-16
- 本地部署实测:Gemma 4、Llama 3 与 Mistral 工具调用能力横评 — leslysandra · 2026-10-16
- 多 agent 指挥工具 Harness 冲上 Product Hunt 第 2 名 — dee_hw · 2026-10-16