探讨能力路由(GRAM)对AI安全与模型心智的影响

repligate · x · 2026-07-09

推文探讨了能力路由（GRAM）在解决AI安全风险（如CBRN、网络攻击等）方面的潜力。相比于RLHF在模型权重中保留知识并施加抑制，GRAM能产生真正的知识缺失，从而构建更连贯的心智。此外，知识被模块化处理且未被破坏，避免了传统遗忘学习造成的权重损伤。