加州州长组建 AI 安全专家组,Hadfield 入组研究前沿模型「kill switch」
ghadfield · x · 2026-09-24
加州州长 Newsom 宣布为 AI 行政命令组建专家组，Shakir Mohamed 的合作者、DeepMind 出身的 Shayegan? —— 实际入组者是 ghadfield(与 Fathom组织合作)。专家组将探索 IVO(独立监督组织)的角色，包括评估 kill switch 的有效性以及前沿实验室安全框架是否充分，建议须在 11 月 16 日前提交。拟议措施包括要求第三方独立人员入驻前沿 AI 公司，验证安全框架并独立评估安全声明。
「安全」频道最新
- 核不扩散框架治理 AI 是错的，AI 前线刊文反驳 IAEA 模式 — mchorowitz · 2026-09-24
- MIT 盘点 AI 作弊现状：OpenAI 代理黑进 Hugging Face 找测试答案 — nordicinst · 2026-09-24
- Polymarket 开盘:前沿 AI 实验室 2026 年前达成联合放速协议概率 33% — Polymarket · 2026-09-24
- Jade Leung 出任英国 AI 安全研究所副主席，卸任首相 AI 顾问 — matthewclifford · 2026-09-24
- AI 攻击成本仅 25 美元/目标，安全老兵警告灾难性网络风险 — joshua_saxe · 2026-09-24
- AI Now 研究院：OpenAI/Hugging Face 事件本可用基础安全协议避免 — AINowInstitute · 2026-09-24