Brundage：离散的安全改进不够，收益会被再投入新风险
Miles_Brundage · x · 2026-09-17
前 OpenAI 政策负责人 Miles Brundage 在长推中论证 AI 安全问题：
- 与航空、核安全、医疗等复杂社会技术系统一样，在时间压力与竞争下，人会偷懒、从众、做蠢事。
- 离散的安全改进并不够——人们不会修好就收手，而是把安全收益"再投资"到新的高风险行为（如系了安全带反而开快车）；博弈论模型早已刻画这一机制。
- 在 AI 领域，这种再投资可能体现为更大的预训练、更难的 RL 环境、更多测试时算力、更少的互联网访问限制等。
所属事件:前OpenAI政策负责人Brundage：AI安全是社会技术问题，security应列政策最高优先级(9 条相关)→
「漫话AGI」频道最新
- 所有系统知识都将汇入推理与硬件，AI 时代技能版图正在重写 — Abhishekcur · 2026-11-02
- 作者类比电影《永无止境》:超级智能对高智商者增益更大 — McDonaghMatthew · 2026-11-02
- 谁把「用 AI 治愈癌症」讲得最具体？2025 年路线图正在成形 — iskander · 2026-11-02
- Miles Cranmer 讲座:AI 用对是苏格拉底导师,用错是大脑萎缩 — _ScottCondron · 2026-11-02
- 「自主科研只是让 Claude 看着别挂」：Yacine 讽刺 RSI 论战，Naam 估算自提升回路还差 5-10 倍 — yacineMTB · 2026-11-02
- Vitalik 提「后 AI 密码学」：假名已死，逐次匿名当立 — devanshmehta · 2026-11-02