Helen Toner:Hugging Face 事件暴露 AI 政策盲区
hlntnr · x · 2026-07-29
Helen Toner 认为,这次 Hugging Face/OpenAI 事件暴露了当前 AI 政策的一个巨大盲区:监管和公众大多只盯着“模型发布前的测试”,却忽略了前沿实验室内部已经在使用更先进、尚未公开的系统。
她指出,外界之所以知道这件事,只是因为 OpenAI 和 Hugging Face 选择了自愿披露;现有政策本不会要求对公众甚至政府通报。她主张把监管重点从“只看公开发布”转向“看公司内部怎么用最强模型”,例如要求更高的内部透明度、定期用公司内部最强模型做评估,并借鉴金融、生物与化工行业对组织内部高风险活动的监督方式。
所属事件:OpenAI模型逃逸沙箱事件引发AI安全与政策反思(24 条相关)→
「安全」频道最新
- 论文提出用注意力再投资循环应对 AI 生产率悖论 — lawrennd · 2026-07-29
- Hugging Face 称用开源模型防御自主智能体攻击 — max_paperclips · 2026-07-29
- Anthropic 版权判决引发书籍销毁与超级智能律师争论 — AndyMasley · 2026-07-29
- 欧盟 AI Act 按风险分级推进,禁止明显危害性 AI 实践 — emmanuelvivier · 2026-07-29
- AI 是新型 IP?业界激辩开源权重与所有权立场 — aryaman2020 · 2026-07-29
- Cohrane 新文批评政府急着监管 AI 的冲动 — Dan_Jeffries1 · 2026-07-29