Laya 0.4.24 发布:0.8B 小模型免微调学习标签,支持 73k 上下文
NirantK · x · 2026-11-05
开源项目 Laya 发布 0.4.24 版本,核心主张是「拟合与校准,而非微调」:冻结一个 0.8B 的 Qwen3.5 读取模型,只在其冻结特征上训练一个凸头部、温度参数、conformal 分位数和一条 Wilson 下界设定的复核线,全部为闭式解或一维搜索,笔记本电脑上几秒即可完成拟合,无需梯度下降和高端 GPU。
- 多模态与长上下文:同一调用支持文本、图像、语音、视频,上下文窗口从 8192 扩到 73728 tokens,可整篇读长文档
- 可换底层模型:通过 ridge 回归可替换底层 LLM/VLM(Gemma、Qwen、GLM、Mistral 等),校准误差差异小
- 自带决策机制:每个答案附带 conformal 集合、abstain 标记与离群标记,内置自动路由,无需手动调阈值
- 使用方式:pip install -U laya 后一个参数 laya.Agent(vegaml=True) 即启用全部 vega 特性,Apache 2.0 开源,可在旧手机上运行
「编程与Agent」频道最新
- Revolut 自托管 GLM 后编程账单降至 API 的 1/7 — alex_verem · 2026-11-05
- 「手写代码将来会像梦呓」:一条推文引发的时代断言 — tlakomy · 2026-11-05
- Obsidian AI 检索实战:混合搜索加重排器可减少 67% 检索失败 — dSebastien · 2026-11-05
- O'Reilly 长文:agent harness 不会死,但要在新模型发布时定期重跑 evals — bibryam · 2026-11-05
- Anthropic 官方教程:Claude Code 三模型分工,Opus 只当高级顾问 — Arindam_1729 · 2026-11-05
- 用 JBang 给编码 Agent 加 Java 护栏:钩子脚本拦截危险文件修改 — myfear3 · 2026-11-05