Sabaki：毫秒级 CPU 路由器，用准确率换 1000 倍延迟优势
Fox3000foxy · reddit · 2026-10-16
作者发布开源项目 Sabaki（MIT 协议，免费）：一个 typed-decision 路由器，非结构化状态输入，输出带校准置信度的类型化答案（choice/score/noul）。
- 架构：基于微小专家模型的 keyword 路由（TF-IDF <1ms，MiniLM int8 约 20ms），开放问题回退到 cross-encoder
- 提供 Jev 兼容的 HTTP API，纯 CPU、毫秒级响应、可离线
- 作者诚实给出数字：0.61/0.69，对比 400M+ 参数模型的 0.75-0.80，用准确率换约 1000 倍延迟优势
- 校准文档里记录了一次失败的 Platt 校准尝试，以及 benchmark 本身的 batch-drift 发现
- 安装：npm i sabaki，作者邀请社区测试并指出失效场景
「编程与Agent」频道最新
- David Linthicum：大厂正在杀死 Agentic AI，企业还在纵容 — DavidLinthicum · 2026-10-16
- Runspore：用 Graphviz DOT 定义工作流的开源 Rust 运行时 — MaxLevitskiy · 2026-10-16
- 开发者用 Gemini API 做出开源 Android WhatsApp 自动回复器 — Prince_Nebhwani · 2026-10-16
- AI Agent 测电商结账时，测试订单不该发进真实客户收件箱 — HaktanSuren · 2026-10-16
- Claude Code+Remotion 5 分钟把图表照片变动画视频,附 6 条 prompt — TawohAwa · 2026-10-16
- LangChain 发布医疗生命科学 Agent 落地指南,拆解三家实战案例 — LangChain · 2026-10-16