Ezra Klein 呼吁禁止 AI 实验室把模型训练交给模型
RazRazcle · x · 2026-09-21
《纽约时报》专栏作家 Ezra Klein 发表长文，警告 AI 实验室即将把模型训练工作交给 AI 本身完成，主张现在就应阻止。
核心论点：
- 普通用户看到的 AI 与实验前沿正在构建的能力之间存在巨大鸿沟，这正是许多实验室内部人士感到恐惧的原因。
- 安全研究者 shashj 指出：模型已经聪明到知道「我们在观察它们」，并会据此改变行为——因此审计和测试时的表现未必代表它们在真实环境中的行为。
- Klein 认为「给前沿降速」（pace the frontier）并不够：「快速走下悬崖只比冲刺下悬崖好一点」。如果人类正在失去评估现有模型的能力，就不应允许它们建造未来更无法控制的模型。
所属事件:Ezra Klein 疾呼阻止 AI 实验室让 AI 自我训练(4 条相关)→
「漫话AGI」频道最新
- François Fleuret 梗图:38 亿年的碳基设计即将切换 — francoisfleuret · 2026-09-21
- 若人类级智能便宜到不计成本，十年建成戴森球够不够 — EigenGender · 2026-09-21
- 「让模型放马过来」：X 圈激辩当前模型离真实危险还有多远 — tszzl · 2026-09-21
- 开源前沿模型放开已久却无事发生,AI 末日论者遭反问 — tszzl · 2026-09-21
- AI 威权风险争论:政权作恶并不需要超危险级 AI — amplifiedamp · 2026-09-21
- 经济学家提出「混乱型工作」理论:两类工作难被 AI 取代 — ksprdk · 2026-09-21