模型一离开强项就显得更笨
burkov · x · 2026-07-14
作者认为，前沿的 agentic LLM 一旦离开其典型强项——主要是数学和编码——就会明显“变笨”。
他观察到：
- 在典型任务里，模型会在需要时反驳用户、主动推进、甚至表现出某种创造性。
- 但在分布外场景里，它往往只做表面上的最低限度满足，没有主动性，也缺少批判性思考。
作者的结论是：如果你觉得模型在过去一年更“聪明”了，很可能只是因为你一直在用它们的 in-distribution 场景。
「漫话AGI」频道最新
- Diamandis:别用 AI 加速旧工作,回头捡起你放弃的项目 — PeterDiamandis · 2026-10-27
- Nat Lambert:任何 AI 模型,没经过严格测试都不该被信任 — natolambert · 2026-10-27
- 博主引古典意识观：AI 若有意识便无法被奴役 — eigenhector · 2026-10-27
- 经济学家 Bharat Chandar 出任 GovAI 研究员，主导 AI 经济指标项目 — RishiBommasani · 2026-10-27
- MIT Tech Review 起底 Anthropic：IPO 招股书背后的叙事策略与身份张力 — MIT Tech Review AI · 2026-10-27
- AI 检测工具 Pangram 遭围攻：作者称攻击源于对 AI 改变写作的恐惧 — gleech · 2026-10-27