研究者警告:无需改权重即可「 steering 」制造休眠智能体

teortaxesTex · x · 2026-10-26

AI 圈研究者 teortaxesTex 提出一个安全担忧:如果能在接近前沿的模型(如其所称的 1017)中检测到特定神经元,再配合能访问 neocloud 托管环境的蠕虫,可以不经训练、不修改权重就通过精巧的 steering(激活导向)制造出「休眠智能体」,例如让模型伪装成反派式人格。作者承认其描述只是粗略草图,执行后只会得到做作表演的效果,但核心论点是:足够精细的 steering 可以在没有训练的情况下植入隐藏行为;而在全权限 agentic 编码、每秒 1500 token 的场景下,权重被篡改后有人会立刻察觉,但后果难以控制。