美国国会提案要求 1 亿美元以上 AI 系统内置关闭开关
rohanpaul_ai · x · 2026-07-25
美国国会提案要求前沿 AI 必须内置“关闭开关”
这条帖转述了一项两党众议院法案：凡是训练成本达到 1 亿美元以上 的 AI 系统，都必须具备可工作的 kill switch。执法会交给 美国国土安全部（DHS），因为法案修改的是《国土安全法》。
- 适用门槛：训练算力成本 1 亿美元、系统年收入 5 亿美元。
- 开发者必须能停止推理、切断用户访问、关闭系统。
- DHS 还可在与商务部、国家情报总监协商后，直接要求降级、停用或关停。
- 若篡改/破坏关停指令，或系统意外造成 10 人死亡、1 亿美元损失，都可能触发更严厉处置。
- 公司需在 15 天内 报告事故，并在接到命令后保留权重和遥测数据。
- 罚款可高达 每天 200 万美元，拒不执行紧急命令时升至 每天 2000 万美元。
原帖也指出一个现实难题：云端托管模型 还能被停掉，但下载到本地的权重 可能根本不会服从 kill switch。
所属事件:OpenAI安全事件频发，美众议院推AI紧急断电法案(7 条相关)→
「漫话AGI」频道最新
- CJR 批评记者滥用「rogue」：别把 AI 写得像有了人性 — ShakeelHashim · 2026-10-27
- AI 致 PhD 申请邮件暴涨约 4 倍，不用 AI 写信反而更易突围 — AI4Code · 2026-10-27
- Weil 律所崩塌复盘：击垮 BigLaw 的不是商业模式，是信心 — jkubicki · 2026-10-27
- Transformer 论文八位作者全部离职，Google 白送竞争对手万亿价值 — signulll · 2026-10-27
- Anthropic S-1 写明两大 AI 愿景：治愈疾病与覆盖 46 亿缺医人口 — petergyang · 2026-10-27
- 高盛：美企 AI 采纳率与就业增长呈显著负相关 — ben_j_todd · 2026-10-27