前DeepMind研究员称前沿AI能力研究不理性

AI 安全研究员 Geoffrey Irving 针对前沿 AI 实验室的竞争心态与监管发表强烈观点。他指出，行业领袖普遍存在“自己先造出 AGI 最安全”的错觉。尽管 AI 安全与能力的边界日益模糊，但他强调，鉴于当前局势的高风险性，单方面停止显而易见的能力推进是理性的。他甚至直言，现阶段任何在前沿实验室从事能力研究的人都是不理性的。

2026-08-08 ~ 2026-08-08 · 4 条相关

• AI 安全专家：前沿实验室都认为自己先造出 AGI 最安全 — zetalyrae · 2026-08-08
• 前DeepMind研究员：现在在前沿AI实验室做能力研究是不理性的 — dhadfieldmenell · 2026-08-08
• Geoffrey Irving：单边停止行动是否合理取决于危险程度 — geoffreyirving · 2026-08-08
• AI 安全与能力边界模糊，但单边停止能力研究仍属理性 — geoffreyirving · 2026-08-08