给模型进步装限速器?初步建模:可推迟超专家 AI 一到两年
ronbodkin · x · 2026-11-19
Ron Bodkin 在讨论 AI 治理的「限速机制」时,支持对已测量的模型进步设定速度上限,并提出一种新机制:把「对自动化 AI 研发的理解程度」纳入测试要求——只有人类能理解其有效性的 AI 研究贡献才能被采用,这既是安全案例要求(保持人类问责),也起到限速作用。
其初步建模显示:若把当前测量的进步速度维持不变,可将「全面超越顶级专家的 AI(TED-AI)」推迟 1-2 年,具体幅度取决于人类判断 AI 想法真实有效性的能力。他也认同 Anton Leicht 的警告:一旦解除限制,由此积累的「超调」会非常大。
所属事件:研究测算:限制 AI 能力增速可推迟全面超越专家约 1-2 年(3 条相关)→
「安全」频道最新
- Waymo 被禁上高速看似不公,但一车学成万车受益 — IsForAt · 2026-11-19
- General Catalyst CEO 季度长文:AI 竞赛是囚徒困境,需有人先迈出信任一步 — htaneja · 2026-11-19
- 脑洞:生成自带 AI 伪影的字体,让截图一律被判为 AI 生成图 — justalexoki · 2026-11-19
- NGINX 1.31.8 主线版曝预认证 RCE,OpenAI 参与发现与披露 — Eric_Wallace_ · 2026-11-19
- 白宫拟要求美企披露使用中国开源模型,创始人称蒸馏即可绕开 — bindureddy · 2026-11-19
- 美联邦审计:四大 AI 模型仍可输出大规模袭击策划信息 — Polymarket · 2026-11-19