AI安全专家呼吁放缓前沿模型研发，警惕能力无序扩散
geoffreyirving · x · 2026-07-26
Geoffrey Irving 在与 Dean Ball 等人的讨论中提出，前沿 AI 实验室应在一定程度上放缓研发步伐，这将对安全与对齐工作有实质性帮助。同时他指出，当前 AI 领域存在一种“能力扩散”效应：任何一个参与者的技术突破，都会迅速且极大地加速全球其他所有参与者的研发进度。这种技术外溢使得全行业的风险控制变得尤为困难。
「漫话AGI」频道最新
- 开源与闭源之争，本质上是你信不信权力掌控者 — AndrewSchmidtFC · 2026-07-26
- Bengio 说，未来人们可能会炫耀没用 AI 做成了什么 — pmddomingos · 2026-07-26
- 开源权重安全争论再起：AI 圈两派公开交锋 — teortaxesTex · 2026-07-26
- 马斯克称 2036 年金钱或将失效，Marcus 反讽别信这预测 — GaryMarcus · 2026-07-26
- 开源旧模型未必利空美国，反而可能双赢 — teortaxesTex · 2026-07-26
- AI 圈应先开源一年前模型的行业争论 — teortaxesTex · 2026-07-26