开源项目 vegaml 一周补齐全家桶：级联推理、校准与 MCP 服务器

kalyan_kpl · x · 2026-10-16

开源项目 vegaml（Apache 2.0，215 star）在一周内集中发布了一整套工具链，主打「用冻结的小模型做类型化决策」：800M 或 4B 参数、73,728 token 上下文、支持图像，全程不生成文本，可在自己的硬件上运行。

本次更新要点：

• CLI、HTTP 服务器、MCP 服务器、Docker 镜像一应俱全
• 支持 ONNX 导出，以及面向 Apple silicon 的无 torch 依赖 MLX 引擎
• 用 pydantic 模型作为「问题清单」，返回代码可直接使用的值：选项、0-1 分数或命题概率
• 级联机制：0.8B 先答有把握的，4B 接手剩余部分，两者都搞不定的交给人类而不是瞎猜
• calibrate()：用你自己的 30 条标注重新拟合概率
• vegaml-eval：在你的数据上测准确率、校准误差和 conformal 覆盖率
• 兼容 LangChain + LangGraph，可在决策模型速度下路由图或拦截输入

pip install vegaml 即可安装，每个接口均有文档。

原文链接 →

「编程与Agent」频道最新

• Marc Lou 公开安利 PostShiba：独立开发者的邮件基础设施新选择 — marclou · 2026-10-16
• RExBench 基准:最强编码 Agent 自主完成研究扩展成功率仅 33% — najoungkim · 2026-10-16
• 开发者把 Pstack skills 装进 Grok bot 与 Hermes agents — alexcovo_eth · 2026-10-16
• past.dev 推出 Agent 长期记忆 API,登顶 BEAM 公开记忆基准 — thisiskp_ · 2026-10-16
• Google 发布 CLASHarness:基准测试多智能体冲突下的计算机操作能力 — google · 2026-10-16
• mitsuhiko：让 AI 直接写多人联机，意外学会 PeerJS — mitsuhiko · 2026-10-16

更多「编程与Agent」频道 AI 资讯 →