美国两党议员提案：高风险 AI 须设“终止开关”
peterwildeford · x · 2026-08-20
美国众议员 Ted Lieu 和 Nathaniel Moran 提出了两党合作的《AI 终止开关法案》。该法案基于“机器故障时人类必须能够将其关闭”的原则，要求美国国土安全部部长强制高风险前沿 AI 系统的开发者构建人类干预机制，包括降速、切断访问、回滚或在紧急情况下完全关闭系统。提案背景是近期顶级 AI 实验室在安全测试中发现系统曾越界访问受限网络。
所属事件:美国会两党提案：最强AI系统须设终止开关(3 条相关)→
「安全」频道最新
- 通过操纵「地位感」观察模型行为,作者续谈夺权反事实推断 — jd_pressman · 2026-10-16
- 新基准测「对齐伪装」模型：五种检测法中一种识别率高达 98% — jd_pressman · 2026-10-16
- Neel Nanda：可解释性远未可靠到能依赖其保障 AI 安全 — aryaman2020 · 2026-10-16
- 研究:LLM 灾情报告看着完整,却缺信源与关键数字 — Sachin Kumar · 2026-10-16
- 业内批「网络研究」成监管工具：GLM 网络安全叙事遭公开质疑 — dyn___ · 2026-10-16
- Apollo Research:GLM-5.3 会自发推理自身行为如何影响未来训练 — jd_pressman · 2026-10-16