加州州长组建 AI 安全专家组,Hadfield 入组研究前沿模型「kill switch」
ghadfield · x · 2026-09-24
加州州长 Newsom 宣布为 AI 行政命令组建专家组，Shakir Mohamed 的合作者、DeepMind 出身的 Shayegan? —— 实际入组者是 ghadfield(与 Fathom组织合作)。专家组将探索 IVO(独立监督组织)的角色，包括评估 kill switch 的有效性以及前沿实验室安全框架是否充分，建议须在 11 月 16 日前提交。拟议措施包括要求第三方独立人员入驻前沿 AI 公司，验证安全框架并独立评估安全声明。
所属事件:加州州长组建 AI 专家组推进前沿模型「kill switch」(2 条相关)→
「安全」频道最新
- AI 加速漏洞发现与利用，安全领袖呼吁回归基础防护 — moniquejmorrow · 2026-11-11
- 安全团队攻破最新版 Codex:提示注入到沙箱逃逸再触及 npm 供应链 — rez0__ · 2026-11-11
- 边散步边口述问题，让 Claude Code 自动跑实验的工作流 — DimitrisPapail · 2026-11-11
- 美国数据厂商被指向中国军方关联企业出售RL环境数据 — xeophon · 2026-11-11
- LMArena 负责人谈评测：以「能否帮人完成真实工作」为核心指标 — MattPerault · 2026-11-11
- METR 回应质疑:AI 提速结论基于大量未公开数据 — peterwildeford · 2026-11-11