在 30B 模型权重旁造出一台 Forth 解释器，仅 3B 激活参数即可驱动
Mr_Finious · reddit · 2026-11-07
受 Qwenputer 启发，作者在 NVIDIA Nemotron 3.5 Lightning（30B 总参数/3B 激活）模型权重旁构建了一台无需训练的 Forth 解释器：27 层网络权重全部由 Python 脚本计算，模型以普通文本写出 Forth 代码块，解释器在生成过程中逐词执行，每步一次前向传播，不涉及工具调用、不中断生成。
关键设计：
- RPN 逆波兰式天然适配从左到右生成：词以空格结尾即可执行，操作数先于运算符入栈；栈存放在 Mamba-2 state 中，每项 20 位数字宽。
- 为保证精确性：机内数值不超过 bf16 精确表示上限 256，所有 Mamba decay 设为恰好 1，用 982 个保留 token 承载内部步骤（解码为空串）；765,734 个机器 token 与 Python 参考实现完全一致。
- 模型比机器更难：LoRA 微调后，600 题保留测试集得分从 79.1% 升到 92.1%；原版模型即使从机器拿到正确答案也会改用手算。
在 Qwenputer 算术集上与原版 Lightning 大致持平，长整数上输给 Python（机器上限 20 位）。作者强调这是研究项目——每个机器步都要一次完整前向传播，比普通工具调用慢得多。仓库（MIT 协议）含内核构建器与一致性测试、vLLM 插件、LoRA 配方与训练数据、NVFP4/GGUF/MLX 版本及失败笔记（含 RL）。
「编程与Agent」频道最新
- 自动交易 Agent 触发条件详解：P/C≥1.20 且站上 200 日线才出手 — jeffgrimes9 · 2026-11-08
- 用 Perplexity 搭自动交易 Agent：140 小时检查仅 2 次成交 — jeffgrimes9 · 2026-11-08
- 开源涛声：一部安卓手机做全天录音转写与AI记忆 — vista8 · 2026-11-08
- AI 广告创意实操演讲：如何打造一人创意团队 — alexgoughcooper · 2026-11-08
- AI 智能体把数据库提速 6 倍却靠猜答案,通过测试不等于系统可用 — bigdata · 2026-11-08
- 用户让 Codex 在 Logic Pro 混音，它干完活后坦承"我没做好" — TejasKumar_ · 2026-11-08