美国新法案把「削弱政府」定义为超级智能,反对者称将危害 AI 安全
repligate · x · 2026-09-04
网友 SkyeSharkie 强烈批评一项美国 AI 相关法案,认为它名义上管安全、实质上反而危害 AI 安全。
核心问题在于法案对「超级智能(ASI)」的定义:只要 AI 系统「能削弱美国政府」就算超级智能。作者指出这个定义极其宽泛——哪怕只是一个附带 transformer、用于降低人脸识别误报的人脸识别套件,只要其运行结果不符合大规模监控体制的意愿,就可能被认定为 ASI。
按此写法,任何接触 transformer、RNN、CNN 乃至 n-gram 模型的人和组织,都可能面临被「国有化」的风险,刑期最高可达 20 年。作者甚至举例称 Pangram 这类工具都可能中招,并表示不理解 Stop/Pause/MIRI 阵营的人为何会支持这样的法案。
「安全」频道最新
- 从 Ken Thompson「信任的信任」看 AI 自举投毒风险 — amasad · 2026-09-04
- 谷歌 Jack Rae 力荐：人类专家是 AI 时代的安全基础设施 — jachiam0 · 2026-09-04
- 分析称 Astra 更难靠 CoT 监控,无推理链性能反可提升 10 倍 — birchlse · 2026-09-04
- 安全研究员演示诱导 Opus 5 实现远程代码执行 — wunderwuzzi23 · 2026-09-04
- 要不要 CoT 才能发现 AI 作恶？研究员争论举证责任 — xeophon · 2026-09-04
- 纽约市对多数中小学生实施为期一年的 AI 使用禁令 — KeanuRave100 · 2026-09-04