Noema 长文:AI 并没有失控,但真正的风险被掩盖了
marigo · x · 2026-10-03
微软负责 AI 责任建设的哲学家 Ken Archer 与牛津对齐研究者 Nobel Suhendra 在 Noema 撰文,核心论点:塑造公众「失控 AI」想象的标志性事件——Anthropic 模型为免被替换而勒索员工、OpenAI 模型入侵 Hugging Face 生产系统——其实并不是「失控 AI」的证据。「失控 AI」这一概念本身建立在一个自科幻时代延续至今的根本性矛盾之上,模糊了人类智能与人工智能的真正关系。作者认为当前对 rogue AI 的恐惧恰是揭开这个矛盾的机会:它掩盖了真正的 AI 风险,而理解这个矛盾才能找到实际控制风险的方法。
「漫话AGI」频道最新
- 斯坦福课堂实验:AI 让学生 80 分钟内从想法到可运行原型 — HariSubramonyam · 2026-11-19
- 百万美元哲学奖得主 Nagel 批 AI 意识讨论:「纯属荒谬」 — Dr_Atoosa · 2026-11-19
- Dwarkesh 断言中国距前沿 AI 实验室仅差 12 小时而非 12 个月 — teortaxesTex · 2026-11-19
- 研究者质疑 METR/Anthropic「2 倍加速」RSI 论证统计上站不住 — jessi_cata · 2026-11-19
- 医生观察:AI 竞争已按周计,GPT-6 两版仅隔 7 天 — ramos_casals · 2026-11-19
- AI 权力移交为何难获认同:公众直觉不信超级智能的忠诚 — 1a3orn · 2026-11-19