对齐成本十年缩到订阅价：机制可解释性遇上 agent 集群

johnsonmxe · x · 2026-10-16

作者论述了「神经元足够干净」（即可解释性研究取得突破）在 agent 集群时代的含义：一周前还不可能以任何成本「完全对齐」一个模型，而今天可以派 agent 集群去读论文并执行对齐任务，或许要花 9-10 位数；几个月后降到 8 位数，再过几个月 7 位数，几年后可能包含在 Pro 订阅里。

关键论点是：如果这些 agent 能发布自己的实验、建立关于如何加速 mechinterp 及基于 mechinterp 对齐的外部共享先验，理解模型的任务就能被大规模并行化。作者强调 interp 并未在今天被解决，但这篇论文提供了「许可与配方」，让海量智能可以投入这个问题；一旦被有效解决，它应成为对齐的关键输入——届时「对齐到什么目标」的问题才真正有趣起来。