开发者论 AI 写作为何停滞：奖励函数缺人类经验成根本瓶颈
MarcJSchmidt · x · 2026-11-10
MarcJSchmidt 回应「AI 造应用惊人但写作两年零进步」的观点，给出结构性解释：
- 奖励函数问题：写作的优化目标内嵌人类经验与品味，这类「人类梯度」极难获取；且「好写作」的标准随时间漂移，是移动靶，递归优化几乎不可能——除非能提取人脑经验，或让 AI 具身生活在与我们相同的经济社会环境中。
- 对比代码/数学：代码、应用、数学对人类梯度需求低，所以 AI 几乎只在这些领域疯狂加速。
- 对就业的推论：多数工作的奖励函数同样依赖人类经验，这解释了为什么 LLM 没有全面替代各行业，而是先吞掉编码，而更高一层的工程岗位仍需人类经验。
- 结论：缺了「人类经验与情感」这一根本原料，AGI 按此路径不可达。
「漫话AGI」频道最新
- 云数仓内嵌 AI 正在消解数据工程师岗位 — jonathanmendez · 2026-11-10
- 微软 AI 负责人苏莱曼转发《Humanist Review》：Acemoglu 等谈 AI 与人的选择 — mustafasuleyman · 2026-11-10
- Mustafa Suleyman 将在 SF 论战「AI 能否带来富足」,11月18日举行 — mustafasuleyman · 2026-11-10
- Scott Alexander 重提旧文:值得做的事就值得用编造的统计数据做 — NathanpmYoung · 2026-11-10
- 单任务提速明显,项目层面收益存疑:AI 效率的隐藏损耗 — FulcraDynamics · 2026-11-10
- 从惊叹到嫌弃只用几天:用户对 AI 视频审美疲劳速度惊人 — jaivin · 2026-11-10