写完AI教科书后反思：大模型长文写作能力为何停滞不前
Interconnects (Nathan Lambert) · rss · 2026-08-12
知名AI研究者 Nathan Lambert 在完成并出版了一本关于 RLHF 的教科书后，对当前大语言模型（LLM）在长篇非虚构写作上的能力瓶颈进行了深度反思。
他指出，尽管模型在编程和数学等领域取得了超人类水平的进步，但在长篇技术写作上却显得停滞不前。模型能够很好地处理单句、公式或图表等局部单元，但在将其串联组织成长篇章节时，往往会出现组织混乱、概念错误和措辞生硬的问题。他认为这种“复合误差”极难消除，导致模型在长文本组织上反而增加了信息熵。
作者分享了他在写书过程中使用 AI 辅助的实践经验：GPT 系列在寻找手稿拼写错误等细节上表现惊艳，而 Claude 系列则作为编辑表现出更好的品味和解惑能力。他通过 Claude Code 辅助处理编辑批注和 LaTeX 代码，并承认书中不到 1% 的技术解释句子直接采纳了 AI 的建议。
最终他强调，模型在长文本组织上的停滞对期待 AI 能自主解决开放性科学难题的乐观主义者敲响了警钟。在模型真正掌握如何组织人类已有知识之前，它们在科学领域的进步更多将是摘取“低垂的果实”，而非带来革命性的独立洞察。
「漫话AGI」频道最新
- 观点:长程智能体任务对前沿算力的需求远超预期 — curious_vii · 2026-08-12
- 图解 AI 数学能力进展：解决 Erdős 问题成本逼近千万美元 — ajeya_cotra · 2026-08-12
- 预测市场盘点年底最强 AI 归属，OpenAI 居首 xAI 紧随 — Polymarket · 2026-08-12
- 马斯克成立 AI 软件公司 Macrohard，对标微软 — hey_abusiddik · 2026-08-12
- 知名计算机学者 Lance Fortnow 遭解雇，发文反思学术终身教职的终结 — fortnow · 2026-08-12
- LLM 正在杀死 CTF 竞赛？安全研究面临技能断层危机 — evilsocket · 2026-08-12