LLM 代码生成之争：Transformer 本质只是采样器

一场关于 LLM 代码生成能力上限的技术讨论引发关注。原帖提出架构层面的观察：语言开放、多义、动态，而编程规则严密、语法严格、有逻辑执行流，两者目标相互冲突，但当前 LLM 架构从未真正适配编程任务。后续讨论进一步指出 Transformer 本质上是采样器，N 次生成中只有 k 次正确，「采样-验证-重试」框架的重试开销大，外部验证器与形式化方法也无法根治代码生成的不可靠性。

2026-10-23 ~ 2026-10-23 · 3 条相关

• LLM 为写代码牺牲文笔:同一架构被迫兼容英语与编程两套逻辑 — gerardsans · 2026-10-23
• Transformers 本质是采样器：代码重试开销大，形式化难降失败率 — gerardsans · 2026-10-23
• Transformer 只是采样器：外部验证器无法根治代码生成不可靠 — gerardsans · 2026-10-23