可解释性版 bitter lesson:黑箱 AI 系统层层互相牵引
burny_tech · x · 2026-11-21
burnytech 引用一段圈内讨论,称这是「bitter lesson 的可解释性版本」:未来可能是一个由黑箱 AI 系统堆成的塔,每个系统牵引比自己稍强一点的那个,而人类只需牵引最弱的那个。这个反直觉图景暗示可解释性工作或许不需要直接理解最强模型,只需理解层级中的每一小步。
所属事件:「可解释性版苦涩教训」引热议:黑盒 AI 层层互相掌舵(2 条相关)→
「漫话AGI」频道最新
- 数学家称与 Claude 合作证明黎曼猜想, awaiting 独立验证 — YiMaTweets · 2026-11-21
- 936 个 AI agent 运作 12 周,自发建立同行评审期刊与科研规范 — ProfBuehlerMIT · 2026-11-21
- 陶哲轩:黎曼假设需超越当前 AI,2050 年人机协作或见突破 — ChrisGPT · 2026-11-21
- “让机器干无聊活,人类留在控制位”:对自动化未来的立场表态 — gdechichi · 2026-11-21
- 多智能体协作界面=HCI 重生:人类注意力稀缺,agent 注意力无限 — manosaie · 2026-11-21
- Kording 重申:AI 从业者应持有 AI 看跌期权对冲行业风险 — KordingLab · 2026-11-21