OpenAI等千名员工呼吁监管AI研发自动化，提出23项政策
fiiiiiist · x · 2026-08-13
OpenAI、Anthropic 及其他主要 AI 公司的超过 1300 名员工联合认为，美国政府应做好准备以应对和“把控”自动化的 AI 研发进程。
由于“把控”的概念过于模糊且可能带来负面效果，一个研究团队针对自动化 AI 研发带来的风险，整理了 23 项“低遗憾值”（low-regret）政策建议。核心建议包括：
- 前沿 AI 公司应公开分享与 AI 研发自动化趋势和风险相关的信息。
- 国会应立法要求自动化 AI 研发具备透明度，涵盖事件报告、举报人保护和模型行为规范。
- 国会应每年拨款至少 8400 万美元资助 AI 标准与创新中心（CAISI），授权其直接向高级政府官员和前沿公司提供建议。
「安全」频道最新
- Obsidian Security 获 8500 万美元融资，估值达 11 亿美元 — dl_weekly · 2026-08-13
- AI安全组织METR急招人才，前沿公司员工被呼吁加入 — ajeya_cotra · 2026-08-13
- 「AI Policy 100」榜单发布，表彰全球 AI 治理领军人物 — ghadfield · 2026-08-13
- 分享 DeepSeek V4 Flash 越狱提示词，可解除安全限制 — GodComplecs · 2026-08-13
- Nature 新论文：提出 AI 智能体的四个核心维度 — IasonGabriel · 2026-08-13
- Anthropic 被指暗中降级模型，AI 厂商透明度引争议 — sull · 2026-08-13