Ethan Mollick:AI 能让复杂系统的隐患「同时对齐」,防御哲学须重写
emollick · x · 2026-09-02
Ethan Mollick 推荐阅读三页 AI 时代之前的复杂系统文献，并点出核心论点：
- 复杂系统往往「带病运行」却依然存活，因为各处缺陷很少同时发生，给了人类干预的机会窗口
- AI 改变了这一前提：它既能发现、也能主动制造同时发生的对齐缺陷
- 因此需要一套利用 AI 的新型系统防御哲学，而不能沿用旧思路
所属事件:学者警示AI微小安全让步或复合成系统风险(4 条相关)→
「漫话AGI」频道最新
- 伦理学金句：出于后果主义的原因，做义务论者 — JacquesThibs · 2026-10-18
- 转发观点：未来会像笑「相机偷灵魂」一样笑 LLM 智能论 — TimDarcet · 2026-10-18
- 观点交锋：AI 拉不动 GDP 曲线，太空复制经济才能 — alz_zyd_ · 2026-10-18
- Chris Albon:未来 20 年将是「人类工作终结」论调与持续新任务的拉锯 — bradneuberg · 2026-10-18
- Coevolution 大会12月湾区办:大厂研究员与神经科技 futurist 共探人机协同进化 — bradneuberg · 2026-10-18
- Yacine 谈 RL 算法：比预训练 scaling law 更接地气的工程美学 — yacineMTB · 2026-10-18