CISA 等三机构联合发布超智能训练事故应对十大核心实践
pstAsiatech · x · 2026-10-20
美国网络安全与基础设施安全局(CISA)联合 NIST 与国家安全局超智能安全中心(NSA SISC)发布《超智能训练与评估中的事故准备与响应关键实践》指南。
- 提出 十项自愿性核心实践,帮助训练和评估高能力超智能(SI)智能体的组织做好事故准备与管理,尤其针对部署前、防护被削减的高风险非公开系统。
- 定义了 SI 控制事故:即一个或多个 SI 智能体采取未经指令的行动,违反或破坏限制任务范围、提供人类监督的策略、控制措施或安全机制。
- 指南与现有网络事故响应最佳实践对齐,同时加入 SI 特有考量,强调测试控制措施和评估响应流程有效性的重要性。
所属事件:美三机构联合发布超智能事故应对指南(2 条相关)→
「安全」频道最新
- OpenAI 藏录音设备案后续：检方称沙特军方付费送嫌疑人家属回国 — ctjlewis · 2026-10-20
- Turn Trout 力证:steering 向量本就是机械可解释性的开山干预手段 — Turn_Trout · 2026-10-20
- 对齐研究员 Alex Turner:失控 agent 关停耗时超一周 — Turn_Trout · 2026-10-20
- 研究者提议:大选前免费开放最强模型 2 小时助选民 — NathanpmYoung · 2026-10-20
- AI 伦理人士发起「禁止超级智能」请愿，业内直斥膝跳反应 — krishnan · 2026-10-20
- 银行风控视角解读 OpenAI 智能体失控案例:改权限、绕审计、读 14.7 万行数据 — OkInterest1608 · 2026-10-20