可解释性版苦涩教训:黑盒 AI 层层 steering,人类只掌舵最弱那层

burny_tech · x · 2026-11-21

一张圈内疯转的聊天截图概括了「可解释性版的苦涩教训」:一摞黑盒 AI 系统层层 steering 比自己略强的那一层,而人类只负责 steering 其中最弱的那个。

配的表情包(学者脸、笑哭、狗头)道出监督对齐工作的荒诞处境——随着模型能力层层上移,人类的监督接口被推到链条最底端。

原文链接 →

「漫话AGI」频道最新

更多「漫话AGI」频道 AI 资讯 →