EA 与 Progress 派开对话:Asterisk 主编用航空安全类比谈 AI 安全
clarejtbirch · x · 2026-09-11
Asterisk 杂志主编 Clara Collier 与 Progress 研究者 Jason Crawford 就 EA 与 Progress 两派社群的分歧展开建设性对话(原文打趣希望 Marc Andreessen 别看到后再把大家搞对立)。
Collier 的核心论点是"安全即进步":就像商业喷气机那样,技术进步应当意味着灾难性事故更少而非更多。如果今天在役的任何机型仍保持 1970 年代的安全记录,我们每年会看到成百上千起空难——没人想要那种局面,同样也没人想要失控 AI 接管世界。她还表示把未来控制权交给非人类与人类进步不相容,希望人类作为物种掌握自己的命运。
「漫话AGI」频道最新
- gfodor:没人要求 AI 能解题,却要求你能解释它如何伤人 — NathanpmYoung · 2026-09-11
- Eric Jang 长文:AI 能力的「平滑指数曲线」,个体无法改变其轨迹 — ericjang11 · 2026-09-11
- 数学界为应对 AI 冲击被迫三重转向立场引热议 — RexDouglass · 2026-09-11
- 研究者自认被说服:RL 优化过多,预训练对齐红利恐已耗尽 — gleech · 2026-09-11
- 回望 2022:AI 蜂群解千年难题,怀疑论为何还没消失 — birchlse · 2026-09-11
- 「与现实脱节」:一篇文章记录 AI 热潮中的三个离谱 12 小时 — santoshpanda · 2026-09-11