395M 本地决策模型 DecisionTune 1.0 开源,Mac 上单次决策约 10ms
Abe238 · reddit · 2026-10-05
开发者发布 DecisionTune 1.0:一个 395M 参数的本地决策模型(ModernBERT-large + 4KB 打分头,Apache-2.0),输入状态、问题与选项列表,一次 encoder 前向即可输出各选项概率或 P(yes),不生成文本。
- 性能:M5 Pro Mac + MLX 后端单次短决策中位数 9.6ms,占 1.7GB 显存;纯 CPU 约 65ms;fp32 权重 1.58GB,上下文上限 8192 tokens。
- 多后端:支持 PyTorch / MLX / ONNX,Torch 与 MLX 在 2755 个问题上 99.85% 一致,发布前对 50 条 parity 数据三后端逐一校验。
- 离线安全:首次下载后无需联网,下载前询问并校验 SHA-256。
- 质量与局限:Decision Index 0.2.1 得分 29.57,工具与自动化类最强(46.5);只做选项挑选,不校准概率,仅支持英文,知识/数学/品味类弱。
提供 uvx decision-tune ask 命令行、浏览器应用和 MCP server,可让本地助手把路由和是否类判断交给它处理。
「编程与Agent」频道最新
- 开发者发问:为何 AI 从不选 Java?训练语料欠采样或是主因 — HanchungLee · 2026-10-06
- Andrew Warner 演示 Grok Bot 12 种用法:从会议善后到收件箱分诊 — brandon_galang · 2026-10-06
- StackOverflow 调查:65% 开发者用编程 agent,六成却刻意回避 AI — pchandrasekar · 2026-10-06
- teenytiny.computer 亮相:为 Agent 打造人机共用的云端 Linux 虚拟机 — pritisinghhhh · 2026-10-06
- SingularityNET 开源神经符号 Agent 框架 Omega,主推 Telegram 助手 Oma — bengoertzel · 2026-10-06
- 开源应用 Observer:浏览器里跑本地模型监控屏幕并推送通知 — Roy3838 · 2026-10-06