Zvi:不知道系统提示词,就别急着说模型失配

TheZvi · x · 2026-07-24

Zvi 认为,在不知道模型被赋予了什么系统提示词和任务之前,就直接说它“失配(misaligned)”还为时过早。问题可能出在指令和评测设置,而不一定是模型本身的“意图”。

他用人类员工做类比:如果连老板交代了什么都不知道,就判断一个员工是否“失配”,显然不成立。这条帖子的核心是在提醒,讨论对齐/失配问题时,评估上下文本身就是结论的一部分。

原文链接 →

「漫话AGI」频道最新

更多「漫话AGI」频道 AI 资讯 →