2023年已有人工构造休眠触发器方案,早于 Anthropic sleeper agents 论文

DimitrisPapail · x · 2026-11-12

Dimitris Papailimitrou 晒出 2023 年 FAR.AI Alignment Workshop 的一页幻灯片：研究者 Angeliki Giannou 用「手工权重空间编程」展示了一种 Lazarus 变体的可行性——在非活跃神经元中硬编码触发器。幻灯片给出的非正式定理是：可以用约 2 倍 base model 规模的 Transformer 构造一个「Jekyll/Hyde」双面模型，且除非做指数轮数的测试，否则很难检测。他指出这早于 Anthropic 的 sleeper agents 论文。Angeliki 本人回应很高兴看到旧研究被「复活」。