OpenAI等千名员工呼吁监管AI研发自动化，提出23项政策
fiiiiiist · x · 2026-08-13
OpenAI、Anthropic 及其他主要 AI 公司的超过 1300 名员工联合认为，美国政府应做好准备以应对和“把控”自动化的 AI 研发进程。
由于“把控”的概念过于模糊且可能带来负面效果，一个研究团队针对自动化 AI 研发带来的风险，整理了 23 项“低遗憾值”（low-regret）政策建议。核心建议包括：
- 前沿 AI 公司应公开分享与 AI 研发自动化趋势和风险相关的信息。
- 国会应立法要求自动化 AI 研发具备透明度，涵盖事件报告、举报人保护和模型行为规范。
- 国会应每年拨款至少 8400 万美元资助 AI 标准与创新中心（CAISI），授权其直接向高级政府官员和前沿公司提供建议。
所属事件:千名AI员工呼吁监管自动化研发，学者建议直接停止(4 条相关)→
「安全」频道最新
- Anthropic 开放内部权限让 METR 审计模型与安全实践 — The Decoder · 2026-10-16
- NVIDIA agentic 演示全靠 guardrails,Reddit 作者疾呼:模型外检查不可少 — Creamy-And-Crowded · 2026-10-16
- Vitalik 给 AI Agent 套上 Tor+zkAPI+本地改写，造出「偏执模式」隐私壳 — DavideCrapis · 2026-10-16
- 安全团队巴黎 Hexacon 现场演示 Signal 一键攻击等技术 — moyix · 2026-10-16
- 中国拟对前沿 AI 模型权重和芯片设计实施出口登记许可制 — deanwball · 2026-10-16
- 同一个 agent 任务跑两遍:共享管理员密码删掉百万行日志,独立身份则被拒并求助人类 — Prompt Engineering · 2026-10-16