开源决策模型 Kev 发布 0.6B/4B/8B,单张 H100 训练 40 分钟

TheMoonMidas · x · 2026-09-21

Jared Palmer 宣布开源小型决策模型家族 Kev 升级至 0.6B、4B、8B 三个规格，基于 Qwen3，采用 LoRA + 小型指针头（pointer head）技术，可自行训练和部署。

核心设计：一次前向传播读完文档并并行回答多个带类型的问题——文档与所有问题打包进同一序列，block-causal mask 保证每个问题只见文档不见其他问题，指针头对选项打分后 softmax 输出校准概率，无自回归解码。

关键数据与特性：

• 域外数据上 Kev-8B 达 79.6%（对标 Jev 为 85.7%）
• 兼容 TypeSafe System One API，改一个 baseurl 即可切换
• Kev-4B 在 32 GB Mac 上以 bf16 运行：5 个问题约 300 ms，H100 上约 40 ms；重复文档命中 KV cache 可再提速 2-2.5 倍
• Apache 2.0 协议；Kev-4B 单 H100 训练 40 分钟，Kev-8B 83 分钟

代码、权重与评测已在 GitHub 开源。

原文链接 →

「编程与Agent」频道最新

• 一张 3090 跑 Qwen 27B 自主编码 3 周:交出可用 CUDA 内核 — skeole · 2026-09-21
• 开发者用本地 AI 修好商业应用首个 bug,同时吐槽 Pi 不兼容 iTerm2 — julianharris · 2026-09-21
• 开发者吐槽:没想到有一天会掏钱买 Meta 的编程订阅 — intellectronica · 2026-09-21
• 密码学教授用 AI 打造单向函数交互实验室,可写安全归约与攻击 — jedisct1 · 2026-09-21
• Astra 擅长沟通、Fable 擅长长程任务,开发者分享多模型分工工作流 — seatedro · 2026-09-21
• Sophia Yang 拿到 Jev 访问权,用 Fireworks 跑 RL 实验 — sophiamyang · 2026-09-21

更多「编程与Agent」频道 AI 资讯 →