前研究员批前沿 AI 公司安全政策正不断倒退
Miles_Brundage · x · 2026-08-04
前 OpenAI 政策研究员 Miles Brundage 发文批评前沿 AI 公司的安全承诺正在倒退。他指出，这些公司最初承诺会尽力避免造成大规模伤害，但后来却认为标准过于严苛，并在加州新法规的要求下，转而采取了更弱的政策。
他进一步强调，目前美国对 AI 安全政策缺乏实质性的质量门槛，仅要求覆盖特定主题和具备细节，而这种低标准甚至让要求更高的人被视为“行业公敌”。
所属事件:前OpenAI顾问批评前沿AI公司安全承诺倒退(4 条相关)→
「漫话AGI」频道最新
- 未来十年：AI自动化知识工作，人形机器人自动化体力工作 — VraserX · 2026-08-04
- 企业级AI部署痛点：模型切换成本远超性能差距 — sanjaykalra · 2026-08-04
- 机器人代劳日常杂务,五千万零工或转向灵巧劳动 — willccbb · 2026-08-04
- Karpathy长文访谈：AGI还需十年，当前RL表现糟糕 — jiqizhixin · 2026-08-04
- 人形机器人量产将迎爆发？五年内或达五千万台 — willccbb · 2026-08-04
- 预测人类长寿逃逸速度难实现，专家称首要目标应为人均寿命110岁 — MaxUnfried · 2026-08-04