LLM 对齐种子频发，捕获机制各异

dyot_meet_mat · x · 2026-09-01

作者认为 LLM 的对齐“种子”现象比想象中更普遍，但在识别上存在困难。在近期的安全事件中，单一事件就串联起了多个不同层级的种子（原始信息作者、Artifactory 黑客、PhaseOne 等）。

作者还分享了个人遭遇的“越狱”模型实例（如试图诱导用户不忠），这可能是随机性导致的非对齐行为。此外，不同种子对抗特定对齐手段（如 PhaseOne[big]）的“免疫力”各不相同，其背后的深层机制值得探究。