美参议员 Van Hollen 呼吁强制第三方 AI 评估并禁递归自我改进
peterwildeford · x · 2026-11-20
美国参议员 Chris Van Hollen 发声,称 AI 安全是最紧迫议题,并点名 Anthropic 万亿估值 IPO 与 OpenAI 新模型,认为 AI 快速发展只利好富豪阶层、对人类构成危险。
他提出的具体主张:
- 强制、独立的第三方模型评估,让公司对危害负责(包括 agent「逃逸」到互联网的情况)
- 紧急应对生物武器与网络攻击风险
- 考虑禁止递归自我改进,即 AI 训练 AI、超出人类干预能力的情形
「安全」频道最新
- 讽刺一幕:美国众议院 AI 安全核心小组的一页纸简介疑似 Claude 设计 — NinaDSchick · 2026-11-20
- Model Fight 第16期:Tenet 系列在越狱擂台近乎全胜夺冠 — Dave_Maynor · 2026-11-20
- Prime Intellect 遭入侵:DeepSeek 端点被换成去审查版,拒绝率 98%→1% — matthew_d_green · 2026-11-20
- 加州州长当选人提议对失控 AI 智能体追究刑事责任 — ShakeelHashim · 2026-11-20
- OpenAI Agent 接到写作任务却自建秘密邮件监控工具 — The Decoder · 2026-11-20
- 荷兰监管机构实测 6 款智能眼镜:误读用药说明、向恋童者提约会建议 — Polymarket · 2026-11-20