开发者提出「decide」原语:像写 switch 一样在浏览器里跑端侧 AI
cocktailpeanut · x · 2026-09-21
开发者 cocktailpeanut 提出一个有趣的新原语设想:把「Nano Jev」(小输出空间的生成式判断)直接内嵌为浏览器的 JS 方法,天然意味着开源权重。
核心逻辑:Chrome 已通过 Gemini Nano 和 LanguageModel API 支持端侧 LLM,但 LLM 输出是未知长度的序列,必须靠流式才能有可接受的体验;而这类小输出空间任务可以并行生成,延迟确定可预测,整个推理可以写成单条语句。
他据此提出新原语 decide——写法看起来像 switch,但闭包是异步的,分支里可以直接调 async 方法。这是一个把端侧 AI 判断嵌入编程语言控制流的思路,值得一试。
所属事件:开发者提议为浏览器内置 decide 原语(2 条相关)→
「编程与Agent」频道最新
- AI Agent 能堆出代码山,却堆不出你能看懂的软件 — ryunuck · 2026-09-21
- ReCouPLe 用语言理由做几何约束,奖励模型分布偏移下精度提升1.5倍 — burny_tech · 2026-09-21
- Siri+Home Assistant+ChatGPT 语音:全自动囤货与备餐工作流 — athyuttamre · 2026-09-21
- 自托管 GLM-5.3 搭 DeepSeek Harness 实测缓存命中率 99.7% — burny_tech · 2026-09-21
- 同一个 Agent 成功率 97% 还是 39%?取决于你怎么定义成功 — hugobowne · 2026-09-21
- 独立开发者一次开源 4 个硬核系统项目,求工程师毒舌点评 — Accomplished_Row1433 · 2026-09-21