对抗 AI slop 的新武器:形式化验证创业公司正在崛起
Latent Space · rss · 2026-11-21
Latent Space 深度文章探讨 2026 年 AI 行业核心痛点「slop」(LLM 低质量输出)的对抗之道:形式化验证(formal verification)。
关键公司与人物
- 新入局者 &Truth 联合创始人 Clark Barrett 是 Stanford 教授、知名自动推理引擎 cvc5 的共同缔造者;cvc5 目前在 Amazon 的 agentic 开发环境 Kiro 中用于规格分析与测试生成,每天在生产管线被调用数十亿次。
- 该赛道主要玩家:&Truth、Harmonic(Aristotle 定理证明器)、Theorem、Axiom Math。
技术路线
- 各家几乎都构建在 Lean 证明助手之上:AI 写证明、Lean 逐步机器检查,使结论「不依赖 AI 是对的」。前沿模型已用 Lean 完成 Gap Theorem 首个形式化证明、费马大定理形式化(1300 万行),Anthropic 数学家还声称用 Claude 证明了黎曼猜想并 posted Lean 证明。
- Axiom 用形式化验证为数学推理模型的训练提供正确性反馈;CEO Carina Hong 称这不只是防幻觉,而是「scaling brilliance」。
安全场景
- &Truth 重点应用:扫描全球 C 代码(开源+闭源)确保内存安全,能精确定位问题代码。
- Theorem 与 Anthropic 合作指出:在 36 个小型验证任务上,Opus 5.5 的解决率达 50%,且比 Opus 5 少用约 40% token——LLM 规模化的形式化验证正变得 token 更高效。
开发者工作流
- &Truth 提出「veri-coding」愿景:验证层接入 agent,开发者更多时间花在写规格与审查上,而「代码第一次就能跑对」。这与 Cognition 提出的「outcome engineering」趋势呼应:当 agent 团队替你干活,人类需要验证产出正确性的手段。
「编程与Agent」频道最新
- Warp 创始人主张「工厂即代码」:AI 工厂应可版本化、可测试 — vikvang1 · 2026-11-21
- FrontierRSI 基准实测:顶级模型提升 AI 的得分仅约 34% — Madisonkanna · 2026-11-21
- 实测:改一句 MCP 工具描述,正确工具选择率从 19/55 升至 45/55 — sparkignitefire · 2026-11-21
- 创业者批 McKinsey:企业需要的不是 AI 第二大脑而是第一大脑 — vasuman · 2026-11-21
- 开发者吐槽:模型照单全收冗余复杂度,工具与 MCP 太重难落地 — dscape · 2026-11-21
- Inkling 2 Mini 模型页详解:MLX 量化版与一条命令接入编码 Agent — ollama · 2026-11-21