Miles Brundage 指出 AI 安全文化过度强调无责复盘
Miles_Brundage · x · 2026-07-23
Miles Brundage：AI 行业过度偏向“无责复盘”文化
他认为，AI 行业现在过于强调持续学习、blameless postmortems 这类文化做法，而对“最终必须有人负责”这一点重视不够。
在回复里他进一步强调：很多 AI 安全事故的具体细节虽难预判，但大致轮廓往往并不意外。因此，他对把问题包装成“iterative deployment（迭代部署）”的说法并不买账。
所属事件:AI学者集体批评前沿实验室安全文化与营销话术(10 条相关)→
「漫话AGI」频道最新
- WIRED 深度：递归自我改进浪潮令前沿实验室研究者恐慌，多人辞职发声 — connoraxiotes · 2026-09-11
- jjvincent 引陶哲轩观点:把探索空间让给 AI 等于让渡人的自主性 — jjvincent · 2026-09-11
- Jean-Vincent：编程语言的进步常源于「解决问题很难」这个过程 — jjvincent · 2026-09-11
- AI 消耗量分三波浪潮：2026 年 2 月 Agent 用量已超人类 — AccBalanced · 2026-09-11
- Ultraventures 创始人：AI 跳过钻研过程，「公共知识」或被侵蚀 — jjvincent · 2026-09-11
- 经济学家：通往安全 AGI 要靠大实验室内部工程师，而非外部踩刹车 — paulnovosad · 2026-09-11