开源决策模型 Laya 一个月铺到 3.2 万台手机,单次推理约 33ms
HowDevelop · x · 2026-10-25
印度喀拉拉团队发布开源非自回归「System 1」决策引擎 Laya 一个月后的成绩单:单次前向传播即可完成对文本的类型化选择/打分/是非判断,支持 100+ 语言,带按请求选择 checkpoint 的路由器,单次决策约 33ms、无需 GPU,可跑在手机、旧笔记本和 CPU-only 服务器上,并号称首个 RLCD 流水线的开源实现。落地数据:在 Acurast 去中心化手机网络上有 3.2 万台 Android 手机排队运行;用户包括 STAGE(CEO Vinay Singhal 称重度使用)、Vercel AI Gateway(用于 agent 路由、客服分诊与护栏)、QVAC SDK。典型用途:agent 路由(某 Marketing OS 延迟降约 7 倍)、支持/邮件分诊、LLM 之前的 prompt-injection 护栏、CPU-only 交易流水线、手机端游戏 AI(Snake/Tetris/Doom)和内容审核。
「编程与Agent」频道最新
- Base44 集成 Entri:两次点击自动绑定自定义域名 — tristanbob · 2026-10-25
- Cursor Ultra 每月 200 美元，Grok Bot 却一天耗尽一周用量额度 — alexcovo_eth · 2026-10-25
- memt-1.0 记忆原生架构:128k 上下文推理快 1.86 倍、存储省 66 倍 — Mrs-Grumpy23 · 2026-10-25
- Agent 指令文件等同可执行代码却跳过代码审查，开源工具 Cairnlock 求解 — augustkevinsanjaya · 2026-10-25
- Reddit 用户自建 Linear+Claude Code 无人值守工单转代码流水线 — Awkward_Rent4749 · 2026-10-25
- dotey:手机上用 Grokbot 跑 Agent 比 Claude Code/Codex 顺手 — dotey · 2026-10-25