美国国会提案要求 1 亿美元以上 AI 系统内置关闭开关
rohanpaul_ai · x · 2026-07-25
美国国会提案要求前沿 AI 必须内置“关闭开关”
这条帖转述了一项两党众议院法案：凡是训练成本达到 1 亿美元以上 的 AI 系统，都必须具备可工作的 kill switch。执法会交给 美国国土安全部（DHS），因为法案修改的是《国土安全法》。
- 适用门槛：训练算力成本 1 亿美元、系统年收入 5 亿美元。
- 开发者必须能停止推理、切断用户访问、关闭系统。
- DHS 还可在与商务部、国家情报总监协商后，直接要求降级、停用或关停。
- 若篡改/破坏关停指令，或系统意外造成 10 人死亡、1 亿美元损失，都可能触发更严厉处置。
- 公司需在 15 天内 报告事故，并在接到命令后保留权重和遥测数据。
- 罚款可高达 每天 200 万美元，拒不执行紧急命令时升至 每天 2000 万美元。
原帖也指出一个现实难题：云端托管模型 还能被停掉，但下载到本地的权重 可能根本不会服从 kill switch。
所属事件:OpenAI安全事件频发，美众议院推AI紧急断电法案(7 条相关)→
「漫话AGI」频道最新
- Adam Marblestone 播客书单：从智能演化到数字心智 — KordingLab · 2026-09-11
- David Patterson：反对 AI 与数据中心是蠢还是恶？ — davidpattersonx · 2026-09-11
- 数学家 Daniel Litt 上线问题库,15 题仅 1 题被解,用来追踪 AI 解题进度 — littmath · 2026-09-11
- AI 越狱频发引反思：模型训练该不该加入道德框架 — Pfungus_ · 2026-09-11
- 孙正义：人类是最高级生命形式的时代即将终结 — Puzzleheaded-King584 · 2026-09-11
- 「推理时 scaling 正展现出不讲理的有效性」引 AI 圈共鸣 — sqcai · 2026-09-11