Karpo Decision 31B 开源发布:单次前向_pass 输出决策概率,94ms 延迟
alifcoder · x · 2026-11-17
Karpo 发布面向 agent 的决策模型家族 Karpo Decision,开源权重,共 6 个尺寸(0.8B–31B)。其核心思路是"读取而非生成":输入状态和带选项的问题,通过线性 readout + softmax 一次性输出每个选项的概率,不做 token 解码,因此答案永远是给定选项之一。
关键数据:
- Decision Index 73.9 分,并列 11 月榜第一
- 单张 RTX PRO 6000 上中位延迟 94ms
- 校准误差 4.8
- 单个问题最多支持 255 个选项
- 对比:JevBench 能力 87.2 vs Google Gemini Decision 1 的 78.5;New Yorker caption 任务 90.5 vs 79.7
支持三类问题(choice/noul/score),采用分支注意力机制:每个分支只读共享状态块和自身,多问题共享一次状态编码。权重占 62.5GB 显存。建议先用在搜索、推荐、工具选择、模型路由、浏览器动作等决策环节。
所属事件:MachinePulse 开源 Karpo 决策模型家族,31B 登顶 Decision Index(7 条相关)→
「编程与Agent」频道最新
- gputaskman 开源:像 htop 一样看清 GPU 显存到底被谁占了 — alex_verem · 2026-11-17
- TS 名师试验"极端约束"法:用严苛 lint 规则给 agent 挖成功黑洞 — mattpocockuk · 2026-11-17
- 用 MCP 编辑 WordPress 像"获得超能力",社区呼吁其进核心 — VeryWellVersed · 2026-11-17
- 开源自托管 MCP 端点一次接入 38 种数据库,只读且凭据不出服务器 — Green_Competition_21 · 2026-11-17
- OpenAI 自弃 SWE-bench Verified,CACM 文章吁编码榜单须附审计追踪 — EhudReiter · 2026-11-17
- 开源播客工具 SubCast:双语字幕逐句对照,AI 精读一集约一角钱 — vista8 · 2026-11-17