平稳提升AI能力的利弊
RyanGreenblatt · x · 2026-07-11
他认为一种“Plan A”的优势在于：**能力提升保持平稳，而不是猛增**，这样就有机会在每一阶段都先发现并修补问题。另一个好处是，在真正必须把部分决策交给 AI 之前，人类可以在对应能力水平上研究、迭代很多年。 但他也强调，这并不意味着问题就安全了：即便经过多年研究 AI 的对齐、智慧和认识论特性，**在需要依赖 AI 时仍然可能很危险**。如果能力跃迁更快，情况只会更糟。
RyanGreenblatt · x · 2026-07-11
他认为一种“Plan A”的优势在于：**能力提升保持平稳，而不是猛增**，这样就有机会在每一阶段都先发现并修补问题。另一个好处是，在真正必须把部分决策交给 AI 之前，人类可以在对应能力水平上研究、迭代很多年。 但他也强调，这并不意味着问题就安全了：即便经过多年研究 AI 的对齐、智慧和认识论特性，**在需要依赖 AI 时仍然可能很危险**。如果能力跃迁更快，情况只会更糟。