开源决策模型 Kev 发布 0.6B/4B/8B,单张 H100 训练 40 分钟
TheMoonMidas · x · 2026-09-21
Jared Palmer 宣布开源小型决策模型家族 Kev 升级至 0.6B、4B、8B 三个规格,基于 Qwen3,采用 LoRA + 小型指针头(pointer head)技术,可自行训练和部署。
核心设计:一次前向传播读完文档并并行回答多个带类型的问题——文档与所有问题打包进同一序列,block-causal mask 保证每个问题只见文档不见其他问题,指针头对选项打分后 softmax 输出校准概率,无自回归解码。
关键数据与特性:
- 域外数据上 Kev-8B 达 79.6%(对标 Jev 为 85.7%)
- 兼容 TypeSafe System One API,改一个 baseurl 即可切换
- Kev-4B 在 32 GB Mac 上以 bf16 运行:5 个问题约 300 ms,H100 上约 40 ms;重复文档命中 KV cache 可再提速 2-2.5 倍
- Apache 2.0 协议;Kev-4B 单 H100 训练 40 分钟,Kev-8B 83 分钟
代码、权重与评测已在 GitHub 开源。
所属事件:Kev 开源小型决策模型家族发布并重构至 Qwen3.5(5 条相关)→
「编程与Agent」频道最新
- dots 更新支持 agent 同时控制 Windows 与 Mac 双机 — dkundel · 2026-11-12
- Granola 推出 Agent Briefs:每晚为 AI agent 打包你的最新上下文 — soleio · 2026-11-12
- 新基准 Continual-ARC:主流 Agent 均无法从经验中学习 — alifcoder · 2026-11-12
- KubeCon 前夕 Azure Day:AKS 单集群 65 节点跑 2.2 万个 Agent — davemccollough · 2026-11-12
- OpenShell 实用技巧:一条命令把沙箱内 Web 应用暴露到浏览器 — gethackteam · 2026-11-12
- 开发者打造「智能操作系统」:模型与智能体直接内建于 Linux 桌面系统 — NerdyRodent · 2026-11-12