编译器把 Python 计算图直接变成 Transformer 权重，且无需训练
notforrob · reddit · 2026-07-25
作者做了一个有研究味道的编译器：把普通 Python 里的计算图，直接编译成一套 vanilla transformer 的权重。
这件事的关键点
- 输出的是一个标准的 Phi-3 架构 checkpoint
- 可以直接被 Hugging Face 加载
- 不需要自定义代码，也不需要 trustremotecode
- 整个流程里没有训练：你写的是计算图，工具吐出的是能执行它的模型权重
作者想回答的问题
不是“Transformer 能学会什么”，而是更偏理论地问：Transformer 到底能表达什么算法。
与相关工作的区别
作者提到 RASP 和 Tracr，但强调自己的目标不同：
- 用普通 Python 描述计算图
- 面向标准架构
- 让产物能在 Hugging Face 里开箱即用
仓库里还提供了 12 个可运行示例。
「编程与Agent」频道最新
- Opus 5 编码体验不错，却把自主 Compound Engineering 流程弄坏了 — danshipper · 2026-07-25
- Claude Opus 5 登陆 Cursor，基准分数追平 Fable 5 且价格减半 — dean_rie · 2026-07-25
- 跨两台机器跑编码 agent，真正的难点是控制面 — Competitive-Bend-143 · 2026-07-25
- Agent 记忆质量，关键在写入门禁和去重而不是检索 — chirayusir · 2026-07-25
- KG-RAG 演示建模 5.3 万版权记录并支持自动修复 — JeremyCMorgan · 2026-07-25
- LangChain 谈如何在生产环境里做 AI SRE — LangChain · 2026-07-25