Anthropic 用重放采样验证推理未被篡改，与 DiFR 论文方法不谋而合

adam_karvonen · x · 2026-11-03

Adam Karvonen 发现 Anthropic 在采用一种「重计算」方法验证其 LLM 推理过程未被篡改或出错：在另一台可信机器上重放响应的采样过程进行核对。

这与作者团队刚发布的 DiFR 论文方法高度一致。论文提出 Token-DiFR：通过同步随机种子，将生成 token 与可信参考实现在相同条件下的预测对比，使输出 token 本身成为零额外成本、可审计的正确性证据，能在 300 个 token 内以 AUC>0.999 检测出 4-bit 量化。另提出 Activation-DiFR，用随机正交投影把激活压缩成指纹，仅需 2 个 token 即可达到同样检测水平，通信开销降低 25-75%。