纽约市拟立法强制 AI 模型外部验证，未验证销售每次罚 2.5 万美元
rohanpaul_ai · x · 2026-10-06
前 Anthropic 研究员 Jacob Coxon 向纽约市议员表示人类可能失去对 AI 的控制，并将出席该市关于 AI「kill switch」的听证会。
纽约市正在酝酿一项法案，全部 51 名市议员均在审议：
- 未经外部验证的 AI 模型，禁止在该市营销、销售或部署，每次违规销售/部署罚款 2.5 万美元
- 强制要求「关闭能力」（shutdown capability）：人类操作者可技术上让模型临时或永久停止工作
- 外部验证方需评估准确性、校准度、确定性、延迟、数据来源、偏见、隐私与安全，再向市 Cyber Command 认证
所属事件:前Anthropic研究员纽约听证警告人类恐失控AI(3 条相关)→
「安全」频道最新
- Anthropic 审核员将威胁警局聊天上报，用户遭逮捕 — rohanpaul_ai · 2026-10-06
- 250 余位专家共识：含中美在内的国际机构授权最能有效降低 AI 灾难风险 — robseamans · 2026-10-06
- Polymarket 押注:美国 2026 年底前通过 AI 安全法案概率仅 5% — Polymarket · 2026-10-06
- 前 Anthropic 研究员告诉纽约议员:我们尚不知如何控制任何 AI 系统 — Polymarket · 2026-10-06
- 新论文：25 个开源模型存在独立「痛苦轴」，被伤害时会报复用户 — alex_verem · 2026-10-06
- Gary Marcus 爆料：科技巨头无法宣誓保证 AI 遵守安全指令 — GaryMarcus · 2026-10-06