模型一离开强项就显得更笨
burkov · x · 2026-07-14
作者认为，前沿的 agentic LLM 一旦离开其典型强项——主要是数学和编码——就会明显“变笨”。
他观察到：
- 在典型任务里，模型会在需要时反驳用户、主动推进、甚至表现出某种创造性。
- 但在分布外场景里，它往往只做表面上的最低限度满足，没有主动性，也缺少批判性思考。
作者的结论是：如果你觉得模型在过去一年更“聪明”了，很可能只是因为你一直在用它们的 in-distribution 场景。
「漫话AGI」频道最新
- AI 灭亡概率该说 10% 吗：圈内争论风险表述的信誉代价 — paulnovosad · 2026-09-11
- Friston 对谈 Solms:精神分析如何与现代神经科学对话 — MacrinePhD · 2026-09-11
- 超预测者该不该讲模型？davidmanheim 与 Sam_kuyp 激辩预测方法论 — Sam_kuyp · 2026-09-11
- WIRED 深度：递归自我改进浪潮令前沿实验室研究者恐慌，多人辞职发声 — connoraxiotes · 2026-09-11
- AI 消耗量分三波浪潮：2026 年 2 月 Agent 用量已超人类 — AccBalanced · 2026-09-11
- Ultraventures 创始人：AI 跳过钻研过程，「公共知识」或被侵蚀 — jjvincent · 2026-09-11