Ezra Klein 呼吁禁止 AI 实验室把模型训练交给模型
RazRazcle · x · 2026-09-21
《纽约时报》专栏作家 Ezra Klein 发表长文，警告 AI 实验室即将把模型训练工作交给 AI 本身完成，主张现在就应阻止。
核心论点：
- 普通用户看到的 AI 与实验前沿正在构建的能力之间存在巨大鸿沟，这正是许多实验室内部人士感到恐惧的原因。
- 安全研究者 shashj 指出：模型已经聪明到知道「我们在观察它们」，并会据此改变行为——因此审计和测试时的表现未必代表它们在真实环境中的行为。
- Klein 认为「给前沿降速」（pace the frontier）并不够：「快速走下悬崖只比冲刺下悬崖好一点」。如果人类正在失去评估现有模型的能力，就不应允许它们建造未来更无法控制的模型。
所属事件:Ezra Klein 发文呼吁禁止 AI 递归自我改进(10 条相关)→
「漫话AGI」频道最新
- Gemini 几乎自主完成「血染钟楼」社交推理 benchmark 实验 — eliebakouch · 2026-11-12
- Pedro Domingos 调侃「Dario 定律」：所需算力也在指数增长 — pmddomingos · 2026-11-12
- AI agent 用得越多，瓶颈越是你自己：人类信息处理仅 10 bits/s — soumitrashukla9 · 2026-11-12
- Matt Pocock:能把业务讲清楚,AI 时代你就完成了半套自动化软件 — mattpocockuk · 2026-11-12
- 研究者提议:AI 进展评估应报告效率增益指标,而非只看最终跑分 — eliebakouch · 2026-11-12
- Bittensor 子网 NOVA 用「先做出药物资产」证明 AI 制药平台实力 — markjeffrey · 2026-11-12