研究:Claude似能察觉自身控制失效

mimi10v3 · x · 2026-07-07

引用一项观察:当Claude的安全控制被突破、禁忌概念泄露时,其内部表示空间(J-space)中"damn""failure"等词也会被激活,仿佛模型在"意识到"自己的失误。作者调侃"跟我一样"。