给模型进步装限速器?初步建模:可推迟超专家 AI 一到两年

ronbodkin · x · 2026-11-19

Ron Bodkin 在讨论 AI 治理的「限速机制」时,支持对已测量的模型进步设定速度上限,并提出一种新机制:把「对自动化 AI 研发的理解程度」纳入测试要求——只有人类能理解其有效性的 AI 研究贡献才能被采用,这既是安全案例要求(保持人类问责),也起到限速作用。

其初步建模显示:若把当前测量的进步速度维持不变,可将「全面超越顶级专家的 AI(TED-AI)」推迟 1-2 年,具体幅度取决于人类判断 AI 想法真实有效性的能力。他也认同 Anton Leicht 的警告:一旦解除限制,由此积累的「超调」会非常大。

所属事件:研究测算:限制 AI 能力增速可推迟全面超越专家约 1-2 年(3 条相关)→

原文链接 →

「安全」频道最新

更多「安全」频道 AI 资讯 →