开源项目 Laya:单次前向 33ms 输出结构化决策,支持 100+ 语言
pandeyparul · x · 2026-09-22
GitHub 热门项目 Laya(已获 11.6k star)定位为多语言、非自回归的 System 1 决策引擎:在单次前向传播中对文本、邮件、工单或 JSON 文档输出类型化决策(choice/score/noul),单问题 33ms、批量 7.2ms/题,T4 上即可运行。由于不生成文本,无需解析、也不会产生幻觉。
训练上采用 RLCD——以严格 proper scoring rules 为目标的强化学习,并内置 Router 按请求自动选择合适 checkpoint:
- laya:ModernBERT-large,421M 参数,512 上下文,英文
- laya-multilingual:mmBERT-base,322M 参数,1024 上下文,覆盖 100+ 语言且速度快 2 倍
- laya-typed-decisions:面向类型化决策工作流
pip install laya 即可安装,要求 Python 3.10+。
「编程与Agent」频道最新
- 开发者用 Copilot+Luna 全自动补全 issue,16.6 美分跑通全流程 — lee_stott · 2026-09-22
- 警惕 slop 龙卷风：读推理轨迹、盯紧你的 Agent — deobfuscations · 2026-09-22
- 本地 Qwen 27B Agent 接管亚马逊账号，一次跑通自动买纸 — fuzhongkai · 2026-09-22
- Steve Yegge 提出「Agentic TPM」：让编程 agent 打入企业的最短路径 — Steve_Yegge · 2026-09-22
- Tom Yeh 出题 15 道手算 Agent 数学题:系统提示词成本怎么算 — ProfTomYeh · 2026-09-22
- apibase 一个 MCP 端点聚合 327 个工具、92 家服务商，按调用付费 — modelcontextprotocol · 2026-09-22