可解释性版苦涩教训:黑盒 AI 层层 steering,人类只掌舵最弱那层
burny_tech · x · 2026-11-21
一张圈内疯转的聊天截图概括了「可解释性版的苦涩教训」:一摞黑盒 AI 系统层层 steering 比自己略强的那一层,而人类只负责 steering 其中最弱的那个。
配的表情包(学者脸、笑哭、狗头)道出监督对齐工作的荒诞处境——随着模型能力层层上移,人类的监督接口被推到链条最底端。
「漫话AGI」频道最新
- 可解释性版 bitter lesson:黑箱 AI 系统层层互相牵引 — burny_tech · 2026-11-21
- Lean 让数学「发现」与「解释」解耦,研究者称类比物种发现 — soumitrashukla9 · 2026-11-21
- Amazon Subscribe & Save 已运行近 20 年:25% 用户在用的「最早商业 Agent」 — signulll · 2026-11-21
- 研究者提出「机器可解释性」:让 AI 去理解和操控黑箱 AI — burny_tech · 2026-11-21
- AI 安全圈写手自曝:锐评预测者的文章因怕断资助不敢发 — JacquesThibs · 2026-11-21
- 陶哲轩曾预计黎曼猜想 2050 年才被证明,结果只用了 35 天 — kimmonismus · 2026-11-21