AI 安全探讨：为何用算力上限作为 AI 停滞点行不通？

scottleibrand · x · 2026-08-11

一位 AI 安全研究者指出，如果要在未来对 AI 发展划定“到此为止”的红线，目前主流的以算力（如最大数据中心规模或训练算力）为标准的限制方案可能行不通。

主要原因有两点：首先，算法的快速进步将大幅降低达到危险级别所需的算力门槛；其次，这种限制方案需要利用 AI 能力的“不均衡性”（例如让 AI 擅长某些事但不擅长长程规划），这很难单纯通过算力指标来精确约束。作者建议需要探索其他替代指标来定义安全的停滞点。