LibLayaX 开源:本地每秒 670 次决策的 Laya 模型多语言库
felipedaragon · reddit · 2026-10-03
开发者 felipedaragon 一口气发布了四个 MIT 协议的开源项目——LibLayaX(C/C++ 库)、RLaya(Rust)、LLaya(Lua)、DLaya(Delphi/Free Pascal),让 Laya 决策模型可以嵌入任意应用,无需服务器和 Python。
- Laya 不聊天:输入文本和一个问题(如"这位客户在要求退款吗?"),以概率形式输出是/否判断,可用于 agent 路由、工单分类等快速决策场景
- 笔记本 GPU 上可达每秒约 670 次决策,支持 Windows/Linux/macOS 的 CPU 与 GPU
- 项目基于 Nandakishor Mukkunnoth 的 laya 模型和 Lars Karlslund 的 laya.cpp 移植构建
开发过程本身也是亮点:作者没有手写代码,全程由 Claude 编写,自己负责规划、在真实机器上测试并反馈。从第一个问题到发布约 32 小时,第一天就跑通了三平台 + GPU,最难排查的是 Windows on ARM 上的冻结 bug(只在真机上复现)。
「编程与Agent」频道最新
- 用户让 Muse agent 首个任务:向小额法庭递交诉讼 — Scobleizer · 2026-10-03
- 四大 AI Agent 横评:Grok Bot、Muse、Dot、Hermes 各自适用场景 — HarperSCarroll · 2026-10-03
- 斯坦福 CS224V 智能体课程公开:自底向上构建反幻觉知识栈 — stanfordnlp · 2026-10-03
- 独立开发者用 Claude 一周做出飞艇版 FTL 游戏,含 7 语言和 100 个成就 — MosskeepForest · 2026-10-03
- Cloudflare 决策模型 Clef 上架 Ollama,可分类图片与工单路由 — ollama · 2026-10-03
- OpenDots 上线 GitHub 首日获 1.5k Star,可克隆二改 — aigclink · 2026-10-03