srush 断言:形式验证是唯一能让 LLM 写出严肃代码的路径
srush_nlp · x · 2026-10-28
普林斯顿教授 Sasha Rush(srush)发布「Lean for ML」系列第三篇，并给出判断：形式验证是唯一有望让 LLM 写出严肃代码的方式，但 2026 年的形式验证工具仍然很难用，让 AI 理解验证内容超出人类能力。
配套项目 Lean Verified Tokenizers:训练-推理不一致(train/inference mismatch)是 RL 训练崩溃的常见原因，而现实中的 prompt 消息模板却常用 Jinja 拼接。项目原型化了一条用 Lean 验证的 Rust agent 管线，用形式化方法保证消息构建的正确性。
要点：
- 主张：严肃的 LLM 编码需要形式验证兜底(预计 >2026 才成熟)
- 现状：2026 年的形式验证对 AI 来说仍近乎不可读
- 实践：把 tokenization 与 agent 消息构建放进 Lean/Rust 可证明正确的管线
所属事件:srush 用 Lean 形式化验证 tokenizer 与 LLM 代码(2 条相关)→
「编程与Agent」频道最新
- Reddit 长文:LLM 出智能、记忆出上下文、Agent 干活,SaaS 界面将被淘汰 — ThomasBuildLab · 2026-10-28
- Codex 会在后台未经提示扫描你的 MCP 连接器，你几乎无从察觉 — kenziyuliu · 2026-10-28
- UCLA 清华论文：让编程智能体用代码作画，跨接口保持一致场景表征 — ucla-cmllab · 2026-10-28
- 别锁死单一厂商:前沿模型轮替太快,agent harness 选 Hermes 或 OpenClaw 更稳 — p_e_cooper · 2026-10-28
- ArkenOS 展示「自主科学家集群」，Sam Altman 转发点赞 — _AustinCalvert_ · 2026-10-28
- Lucas Meijer 晒 AI Tinkers 聚会演讲,现场演示 Agentics 云端工作台 — lucasmeijer · 2026-10-28