用 ZKML 加形式化方法证明模型无后门，不必公开专有权重

DimitrisPapail · x · 2026-11-11

转发者指出一种安全思路：在不泄露模型专有权重的前提下，向下游证明 LLM 满足特定的后门安全属性；即便权重开源，也能简洁地向任何人证明这些属性成立。作者将其类比为传统计算机病毒中的木马问题——你不知道木马藏在哪里，而解决方案听起来是「ZKML（零知识机器学习）叠加形式化方法」这把重锤。这是对刚出现的 LLM 后门攻击（休眠神经元重编程）的一种潜在防御方向讨论。