模型推理的证明缺失：谁能证明跑的是哪个权重？

Some_parts_Bi · reddit · 2026-08-16

作者指出了当前 AI 推理栈中的「问责空白」（accountability gap）：虽然我们可以记录输入和输出，但无法独立证明具体执行了哪个模型版本或权重，也无法确认中间过程是否被篡改。对于非关键应用这无关紧要，但在涉及决策争议的场景中，信任链条是断裂的。

文中提到 OpenGradient 正在尝试解决这一问题，通过 TEE（可信执行环境）或 zkML（零知识机器学习）为每次推理附加证明。虽然验证路径会引入延迟和额外成本，但这为高敏感场景提供了可行的信任机制。作者询问社区是否真的需要这种级别的验证。