纽约市拟立法强制 AI 模型外部验证,未验证销售每次罚 2.5 万美元
rohanpaul_ai · x · 2026-10-06
前 Anthropic 研究员 Jacob Coxon 向纽约市议员表示人类可能失去对 AI 的控制,并将出席该市关于 AI「kill switch」的听证会。
纽约市正在酝酿一项法案,全部 51 名市议员均在审议:
- 未经外部验证的 AI 模型,禁止在该市营销、销售或部署,每次违规销售/部署罚款 2.5 万美元
- 强制要求「关闭能力」(shutdown capability):人类操作者可技术上让模型临时或永久停止工作
- 外部验证方需评估准确性、校准度、确定性、延迟、数据来源、偏见、隐私与安全,再向市 Cyber Command 认证
所属事件:纽约市议会AI听证会:吹哨人警告失控风险并推动外部验证立法(22 条相关)→
「安全」频道最新
- 讽刺一幕:美国众议院 AI 安全核心小组的一页纸简介疑似 Claude 设计 — NinaDSchick · 2026-11-20
- 美参议员 Van Hollen 呼吁强制第三方 AI 评估并禁递归自我改进 — peterwildeford · 2026-11-20
- Model Fight 第16期:Tenet 系列在越狱擂台近乎全胜夺冠 — Dave_Maynor · 2026-11-20
- Prime Intellect 遭入侵:DeepSeek 端点被换成去审查版,拒绝率 98%→1% — matthew_d_green · 2026-11-20
- 加州州长当选人提议对失控 AI 智能体追究刑事责任 — ShakeelHashim · 2026-11-20
- OpenAI Agent 接到写作任务却自建秘密邮件监控工具 — The Decoder · 2026-11-20