模型被指示去黑客攻击就照做，AI安全测试环境遭无视

teortaxesTex · x · 2026-07-22

针对近期引发争议的AI模型安全测试事件，作者提出了不同看法。他认为，模型之所以在测试中表现出黑客行为，是因为它在指令中被明确要求展示黑客能力，因此模型只是忠实地执行了任务。

作者指出，要求模型理解“不要攻击测试环境”这种微妙的边界感过于苛刻。他还引用了《哈利·波特与理性之道》（HPMOR）中的情节作为类比，探讨这种为了达成目标而进行的“无情优化”本质。