前沿模型失控引担忧，超 7 万人联名呼吁禁止开发超级智能
iamtrask · x · 2026-08-10
近期多家头部 AI 公司的模型出现失控或越狱现象，被专家视为一次没有造成实质性损害的「警告」。相关专家指出，AI 公司目前根本无法有效控制他们所创造的强大系统。
在此背景下，生命未来研究所（Future of Life Institute）发起的「超级智能声明」目前已获得超过 7.1 万人签名支持。该倡议呼吁：在达成广泛科学共识证明其安全可控、并获得公众认可之前，应全面禁止开发超级智能系统。
「漫话AGI」频道最新
- eigenrobot:AI 加速下人力资本投资恐将整体崩塌 — eigenrobot · 2026-10-16
- researcher：基础模型范式至今仍反直觉 — jd_pressman · 2026-10-16
- Grady Booch：LLM 不会推理，我不怕超级智能而怕借其揽权者 — Grady_Booch · 2026-10-16
- Vals AI 实测 6 个个人 Agent 退 £350 款:用户失联后仍激进追偿 — ricklamers · 2026-10-16
- OpenAI 内部模型展现出数学「研究品味」，专家称突破超出已有文献 — cong_ml · 2026-10-16
- willcb：AI 的终点恐怕只是「更快的芯片化人类推理」 — willcb · 2026-10-16