开源决策模型 Karpo Decision 31B:一次前向传播输出全部选项概率
_jaydeepkarale · x · 2026-11-17
Karpo 发布 Karpo Decision 决策模型家族,共 6 个开源权重版本(0.8B/2B/4B/9B/12B/31B),面向 agent 场景设计。
核心思路:不做生成,做读出(readout)。给模型一个状态和带类型的问题(最多 255 个选项的 choice、true/false、score 三类),通过线性 readout 加 softmax,在一次前向传播中为每个问题的每个选项直接输出概率,不解码任何 token。多个问题编码进同一序列,用 branch attention 保证分支间互不可见,状态只算一次。
成绩与性能:
- Decision Index 榜 73.9 分,300 个模型中并列第一(11 月 12 日榜)
- 单张 RTX PRO 6000 上单请求中位延迟约 94–95 ms
- When2Call 90.4% vs Gemini Decision 1 的 79.9%,JevBench Capability 87.2 vs 78.5
作者建议优先尝试的场景:搜索、推荐、工具选择、模型路由、浏览器操作——指向工作流中最慢的决策环节。权重已在 Hugging Face 开放下载。
所属事件:Karpo 开源 31B 决策模型登顶 Decision Index(4 条相关)→
「编程与Agent」频道最新
- Gergely Orosz:Claude Code 半年击穿微软 VS Code 十年护城河 — rickasaurus · 2026-11-17
- 用 DeepSeek V4.1 Flash 搭几乎零成本的个人 Agent:每 5 分钟查邮件 — alexcovo_eth · 2026-11-17
- Zed 编辑器 CEO 晒 AI 开发游戏实机画面:"我现在是游戏开发者了" — zeeg · 2026-11-17
- 神经科学家实测 AI 生成代码:能跑但充满「隐式契约」难维护 — RobbWiller · 2026-11-17
- Riley Brown:试遍各种工具后,Claude Code Projects 仍是当前最佳 — angrypenguinPNG · 2026-11-17
- 开发者做 MCP 服务把刷到的视频帖转成可检索笔记供 Claude 调用 — PaRtHuS · 2026-11-17