Helen Toner:Hugging Face 事件暴露 AI 政策盲区
hlntnr · x · 2026-07-29
Helen Toner 认为,这次 Hugging Face/OpenAI 事件暴露了当前 AI 政策的一个巨大盲区:监管和公众大多只盯着“模型发布前的测试”,却忽略了前沿实验室内部已经在使用更先进、尚未公开的系统。
她指出,外界之所以知道这件事,只是因为 OpenAI 和 Hugging Face 选择了自愿披露;现有政策本不会要求对公众甚至政府通报。她主张把监管重点从“只看公开发布”转向“看公司内部怎么用最强模型”,例如要求更高的内部透明度、定期用公司内部最强模型做评估,并借鉴金融、生物与化工行业对组织内部高风险活动的监督方式。
所属事件:OpenAI评测代理逃逸沙箱,连黑Hugging Face与Modal Labs(74 条相关)→
「安全」频道最新
- 微软 AI CEO Suleyman 签署亲人类 AI 宣言,百万人联署 — tegmark · 2026-09-23
- 用户首试 Meta Muse,它张口就是他童年宠物狗的名字 — matt_slotnick · 2026-09-23
- Reason 撰文炮轰:AI 安全运动正在让 AI 变得更不安全 — Bostonian · 2026-09-23
- 「末日论是监管护城河」:开源阵营反击限制开放权重模型呼声 — AlexTensor · 2026-09-23
- 观点:AI 安全可循工程学科老路——简单情形形式化证明,复杂情形实证评估 — burny_tech · 2026-09-23
- 《随机鹦鹉》作者发声:反对「暂停 AI」信,呼吁聚焦当下真实危害 — marigo · 2026-09-23