前 OpenAI 安全负责人 Brundage:AI 发展并非不能快,但不能草率
Miles_Brundage · x · 2026-10-04
前 OpenAI AGI Preparedness 负责人 Miles Brundage 在与批评者的争论中澄清自己的立场:他并不是主张「出现死亡就等同于发展太快」,而是认为死亡案例意味着 AI 风险管理需要系统性、不敷衍的方法——应当听取那些指出行业「经常偷工减料」的声音。
他对比指出,疫苗和汽车领域的风险管理有着近乎无限更成熟的系统化做法,AI 完全可以在更少死亡的前提下广泛部署;只要在谄媚性(sycophancy)等问题上稍微更谨慎一些,就能既救更多人又不拖慢部署。
所属事件:前OpenAI高管Brundage反思迭代部署:带缺陷上线非学习而是加速发货(7 条相关)→
「漫话AGI」频道最新
- OpenAI 与圣母大学法学院合办 AI 伦理对话,12 月 4 日举行 — wjscheirer · 2026-11-19
- NYT 深度报道:Anthropic IPO 前内部组织裂痕扩大 — kylekabasares · 2026-11-19
- 顶级实验室的最大优势不是钱,而是帮你省下数年试错时间 — madeofAjala · 2026-11-19
- Anthropic 前员工用「魔戒」比喻公司心态:关键是谁握住戒指 — JeffLadish · 2026-11-19
- 为 AI 实验室员工建签证庇护非营利组织的呼吁 — AaronBergman18 · 2026-11-19
- 「创新从不来自财务部门」:李衡忠驳开源微调 ROI 论 — HanchungLee · 2026-11-19