把 LLM 逐 token 采样做成游戏,Gemma 4 在浏览器本地跑
nicodotdev · x · 2026-10-13
开发者 nicodotdev 将 LLM 的结构化输出过程变成了一款小游戏 Token Arcade:
- LLM 对下一个 token 打分,玩家来选;约束系统判定该 token 是否合法
- 核心教学点是「最可能的 token ≠ 合法的 token」,连一个大写字母都可能扣分
- 游戏挑战包括猜硬币和逐 token 构建一个 JSON 小生物,满分 100
- 基于 Google Gemma 4,通过 Transformers.js + WebGPU 在浏览器本地运行,首次访问时下载模型
既是趣味演示,也是理解约束解码(constrained decoding)的直观教材。
所属事件:Token Arcade 游戏让玩家逐 token 理解 LLM 生成(4 条相关)→
「编程与Agent」频道最新
- Workday 全面 headless,向外部 AI 智能体开放 HR 与财务数据 — rseroter · 2026-10-13
- 小模型接管决策步骤:主模型调用减 29.6%,成本降 26.6% — vivekhaldar · 2026-10-13
- EMNLP 论文:LLM agent 准确率越高,未必越愿承认不确定性 — DanielKhashabi · 2026-10-13
- 基准测试历史上有 29 个 bug 至今无人修复 — PawelHuryn · 2026-10-13
- Dan Shipper 在「资深工程师基准」上启动 Wonder 全量测试运行 — danshipper · 2026-10-13
- PowerShell 管道接入 Jev AI:收件箱自动筛选排序分派团队 — dfinke · 2026-10-13