加州州长宣布 AI 行政令专家组,推进前沿模型「kill switch」
StanfordHAI · x · 2026-09-24
- 加州州长 Newsom 宣布为 AI 行政令组建顶级专家顾问组(成员含斯坦福 HAI 副主任 Rob Reich),推进对前沿 AI 公司的独立监督。
- 举措包括:在前沿实验室内部嵌入独立第三方验证安全框架、建立可核验的安全报告机制、研究为失控前沿模型设置「kill switch」的可行方案。
- 这是加州 AI 安全治理框架的最新动作。
所属事件:加州州长组建 AI 专家组推进前沿模型「kill switch」(2 条相关)→
「安全」频道最新
- 「对抗性委托」：个人上下文会把AI助手带偏离用户目标 — niloofar_mire · 2026-09-24
- 实测 LLM 歧视穷人：给富人推荐的机票平均贵 198 美元 — niloofar_mire · 2026-09-24
- HuggingFace CEO 登上联合国安理会,呼吁公开智能体攻击提升透明度 — cephaloform · 2026-09-24
- Dario 在联合国安理会提议：在 AI 公司内部常驻「食品检查员」式外部评估员 — rohanpaul_ai · 2026-09-24
- Zenity 实锤：一份投毒文档即可借企业 Agent 连接器窃取数据 — _clickfix_ · 2026-09-24
- Bengio、Altman、Amodei 联袂在联合国安理会就 AI 安全发声 — Gary Marcus · 2026-09-24