开源 Kev-0.5B:基于 Qwen2.5-0.5B 的决策模型,MacBook 可训练
sull · x · 2026-09-19
jaredpalmer 开源了 Kev-0.5B,一个受 TypeSafe 的 Jev 启发的小型决策模型,权重已发布在 GitHub(已有 121 star)。
- 基于 Qwen2.5-0.5B,加 LoRA 适配器和一个 readout 头,提供 TypeSafe 兼容 API
- 架构上,文档与多个类型化问题打包进一个序列,用块因果掩码让每个问题只看文档互不干扰,一次 prefill 前向就并行输出所有问题的校准概率,无需解码
- pointer head 对每个问题的选项打分后 softmax,概率由带标注结果的交叉熵训练得出,而不是生成文本
- 可在 MacBook Pro 上训练和运行
「编程与Agent」频道最新
- 微软员工发布 GitHub Copilot 自学工作坊，60-90 分钟入门 — 0xkarasy · 2026-09-19
- Groovy 官方更新 AI 教程:覆盖 Ollama4j、Spring AI、Embabel 等六大框架 — therealdanvega · 2026-09-19
- 类型化推理模型 Jev 登陆 Venice API：回答不写代码 — 0xAllen_ · 2026-09-19
- Link 推出 AI Agent 钱包,登录加拿大市场 — jeff_weinstein · 2026-09-19
- SAM 演示 30 秒组起跨设备 Agent 网格,手机传感器秒变 MCP 工具 — rakyll · 2026-09-19
- 零用户上线怎么办:开发者自造金标准 eval 数据集的困境 — Illustrious-Roll9476 · 2026-09-19