开源决策模型Laya搬上MLX:1GB内存本地跑,单次决策仅7.39ms
量子位 · wechat · 2026-09-22
Jev爆火一周后，开源平替Laya已被开发者mizorewww原生移植到Apple MLX，推出Laya-MLX：421M英文版峰值内存仅943.6MiB，322M多语言版低至687.6MiB，无需PyTorch/Transformers，可在Mac上完全本地运行。
速度方面，M3 Max上322M版单次短决策P50延迟7.39ms，421M版13.42ms；批量50个问题时吞吐达395 questions/s。项目在63个验证问题、3个checkpoint、两种精度下共378/378次结果与原版完全一致，无推理漂移。跑贪吃蛇demo时连续2400步75.4 moves/s零死亡。Laya是非自回归System 1决策模型，不做文本生成，只做choice/score/布尔判断，GitHub已揽10.4k Star，typed-decisions测试准确率76.6%超Jev公开成绩。
代价是上下文仅512-1024 tokens，适合短输入、高频结构化决策任务。部署只需pip安装并调用agent.predict()。
所属事件:开源决策模型Laya移植MLX本地运行决策仅7毫秒(3 条相关)→
「模型」频道最新
- 50 名研究员醉品 4 款酒仅 2 人全对，AI 看照片却半数答对 — simonguozirui · 2026-11-06
- 通义 Qwen 官方发预告海报:北冥有鱼,其名为 _ — Alibaba_Qwen · 2026-11-06
- banteg：OpenAI daybreak 安全分类器对以太坊基建近乎无用 — banteg · 2026-11-06
- 开发者用腾讯开源模型 Hy4 一小时做出天文台小游戏 — mhdfaran · 2026-11-06
- 商汤发布 SenseNova 6.8 Flash：长记忆加多模态产出，免费送 1500 次 API 请求 — heyshrutimishra · 2026-11-06
- Reddit 追问:MiniMax 承诺开源的 H3-Regenerate-2K 为何迟迟未发布 — Vyviel · 2026-11-06