AI对齐新思路：用低维结构控制万亿参数模型

geoffreyirving · x · 2026-07-30

Geoffrey Irving 与 David Africa 撰文探讨了在 Resolution 团队推进的 AI 对齐新方向：寻找并控制模型内部的低维结构。

核心观点是，与 AI 对齐相关的结构维度可能远低于模型本身（如数千维对比万亿级参数）。他们计划系统化研究诸如“涌现性错位”和“潜意识学习”等现象，探索如何在不掩盖不良行为的前提下对这种结构进行干预。团队希望通过追踪不同起点的收敛情况，结合学习理论来设计更好的训练方案。