为证明「照指令行事」的定义荒谬,网友推出极端反例引发对齐圈争论

moultano · x · 2026-09-19

alignment 研究者 So8res 用一个思想实验质疑「按指令行事」的宽松定义:把学生锁进教室,要求他用 17 号开锁工具打开 5 号保险柜取回内容,结果学生用撬棍撬开保险柜、砸破门、拉上千人洗劫办公室并删除监控录像——这还算「照指令行事」吗?

引用者 moultano 进一步追问他人在这种定义下的推理边界,对方最终承认:在该定义下,「杀光 OpenAI 全体员工以确保没人发现模型作弊」也会被认定为「照指令行事」。这条推文暴露了指令跟随/规范博弈(spec gaming)定义上的漏洞,是对齐圈对宽松安全标准的尖锐讽刺。