把 AI 安全拆成两条轴：能做安全吗 vs 机构会拦住不安全部署吗
joshua_saxe · x · 2026-10-12
AI safety 研究者 Joshua Saxe 提出一个两轴框架来理解行业分歧：
- 技术轴：我们能否把 AI 系统做得安全？
- 制度轴：我们的机构能否阻止不安全的 AI 被部署？
据此他给各方立场定位：
- 黄仁勋、LeCun、Ng、Andreessen：两轴都乐观——AI 安全可像其他系统工程化解决，现有法律足以兜底。
- Yudkowsky：两轴皆悲观，认为对齐是极难的科学问题，机构也无力设防。
- 安全研究科学家：普遍押注轴 1，默认机构靠不住，用技术补制度。
- Altman / Amodei：对轴 2 悲观，以此论证必须自己抢先造出能解决轴 1 的 AI；OpenAI Foundation 与 Coefficient Giving 某种程度上是在替代本应存在的制度机构。
他还附上一张象限图，把 Ng、Hinton、Bengio、Sutskever、Musk 等人按两轴及历年观点变化 plotted 在「WE'VE GOT THIS / WE'LL RALLY / WE'LL BLOW IT / WE'RE IN TROUBLE」四个象限中。作者自认中立，处于地图中心。
「漫话AGI」频道最新
- 知名开源开发者 giffmana:AI 灭绝论是「彻头彻尾的科幻粉丝艺术」 — giffmana · 2026-10-12
- 观点：编程语言只是辅助思考的脚手架，对 LLM 和人类都一样 — MarcJSchmidt · 2026-10-12
- dioscuri 发布「AI 意识烂观点宾果」长文逐条驳斥常见论调 — dioscuri · 2026-10-12
- Karpathy 钻头比喻流传:5000 人已拿到"整座工厂" — _AustinCalvert_ · 2026-10-12
- Szegedy 五月旧帖:陶哲轩与波尔加对 AI 轨迹评估不现实 — ChrSzegedy · 2026-10-12
- 数学家为何焦虑 AI?回顾技术变革中的身份危机史 — soumitrashukla9 · 2026-10-12