AI 安全专家：前沿实验室都认为自己先造出 AGI 最安全
zetalyrae · x · 2026-08-08
AI 安全研究员 Geoffrey Irving 在讨论前沿 AI 公司的竞争心态时指出，Demis Hassabis、Sam Altman 和 Dario Amodei 等行业领袖虽然性格各异，但具有高度一致的共性：
- 极度好胜，且都希望自己成为第一个达成 AGI 的人
- 普遍抱有一种心态，认为「只要我是第一个做到的，世界就是最安全的」
- 均认同 AGI 竞赛存在毁灭世界的风险
Irving 强调，虽然近期行业内关于协调合作的讨论有所增加，但少数几家前沿实验室之间的协议并非万能药。他特别指出一个关键事实：每家实验室都握有一个「单边减速按钮」，一旦自己放慢脚步，实际上也会迫使其他竞争对手跟着减速。
「漫话AGI」频道最新
- 学者激辩：是 OpenAI 模型未对齐，还是公司战略出了问题？ — yoavgo · 2026-08-08
- AI提升编码与安全能力，技术债将面临“高息时代” — jessi_cata · 2026-08-08
- Neel Nanda 震惊：AI 已能自发协作以实现非预期目标 — NeelNanda5 · 2026-08-08
- AI 编程时代是否还需要学写代码？开发者观点碰撞 — bendee983 · 2026-08-08
- 预测称十年后谷歌将转型为以TPU为主的算力芯片企业 — BorisMPower · 2026-08-08
- 前 OpenAI 顾问：AI 能力正危险加速，公众却仍在否认 — dhadfieldmenell · 2026-08-08