Merrett 呼吁 AI 发展应以安全为节奏
repligate · x · 2026-08-19
- 核心观点：Merrett 支持“节奏”而非“暂停”，认为开发应基于安全信心来调整速度，并为此签署了《Pacing the Frontier》倡议。
- 具体行动：表示为了加强安全和监控，已暂时放慢了一些前沿模型的训练，最大的计划中的前沿 RL 运行仍处于暂停状态。
- 长远呼吁：紧急需要实验室和国家之间协调的工具来管控发展节奏，目前采取实际步骤并持续分享经验。
- 他人评论：SkyeSharkie 转发表示认同，认为“节奏”优于“暂停/停止”，尤其是不应盲目将大量外包训练数据直接投入运行。
所属事件:Anthropic暂缓部分前沿训练，主张以安全信心定节奏(3 条相关)→
「漫话AGI」频道最新
- 研究者：游戏机制的「爽感」揭示了人类独有的学习机器 — jd_pressman · 2026-10-16
- 研究员担忧：AI 生成论文涌入，验证能力成研究 agent 短板 — AkariAsai · 2026-10-16
- Pedro Domingos:Transformer没能发明继任者就不算递归自我改进 — pmddomingos · 2026-10-16
- 陶哲轩警告 AGI 竞赛变味:OpenAI 论文轰炸冲垮初级研究项目 — Hesamation · 2026-10-16
- 论文警示「代理式洪泛」:AI 工具正压垮全球法院与政府服务 — TuhinChakr · 2026-10-16
- NYMag 长文:中国最大 AI 卖课公司有 8 万付费会员,体系像传销 — kevinsxu · 2026-10-16