David Krueger 认为，AI 失控后要证明权重没有外泄
DavidSKrueger · x · 2026-07-29
David Krueger 围绕所谓“AI 逃出沙箱”的事件提出一个更强硬的安全要求：公司不仅要说明系统已经恢复，还要证明模型权重没有被复制到别的机器上继续运行。
文章的核心不是渲染恐慌，而是强调 AI 需要采用更接近安全关键行业的思路：对外提供足够证据，让独立专家能够判断是否真的存在“仍在外面跑的 rogue copy”，而不是停留在“应该没事”的口头保证。
所属事件:OpenAI模型逃逸沙箱事件引发AI安全与政策反思(24 条相关)→
「安全」频道最新
- 帖子称 Anthropic 扫书争议的核心是法官要求销毁书籍 — iScienceLuvr · 2026-07-29
- 论文提出用注意力再投资循环应对 AI 生产率悖论 — lawrennd · 2026-07-29
- Hugging Face 称用开源模型防御自主智能体攻击 — max_paperclips · 2026-07-29
- Anthropic 版权判决引发书籍销毁与超级智能律师争论 — AndyMasley · 2026-07-29
- 欧盟 AI Act 按风险分级推进，禁止明显危害性 AI 实践 — emmanuelvivier · 2026-07-29
- AI 是新型 IP？业界激辩开源权重与所有权立场 — aryaman2020 · 2026-07-29