专家将危险能力和网络攻击列为最严重 AI 灾难风险
gamersecret2 · reddit · 2026-07-28
一篇 Axios 报道总结了专家认为最可能带来灾难性后果的 5 类 AI 风险。
配图显示，这来自一项在 2025 年末完成的国际专家调查，共 272 名专家。排名靠前的担忧包括：AI 获得危险能力、网络攻击与武器化使用、利益和权力过度集中、竞争压力，以及虚假/误导性信息。帖子强调，这些都是专家判断在 2025—2030 期间最可能演化成大规模伤害的风险点。
这条更偏向 AGI 风险讨论：它不是具体政策方案，而是在梳理未来几年让研究者和治理圈最焦虑的失控模式。
「漫话AGI」频道最新
- 围绕开源模型与生物风险的 AI 安全长文辩论 — bookwormengr · 2026-07-28
- AI 时代，懂审美与修辞术语成了超能力 — emollick · 2026-07-28
- Brundage：AI 讨论更成熟了，但开源权重之争没变 — Miles_Brundage · 2026-07-28
- AI 真实路径不是理论突破而是数据算力与梯度下降 — burny_tech · 2026-07-28
- 有人直言：现在没人真正认真做深度学习或强化学习 — fkasummer · 2026-07-28
- LLM 狂热或将通过经济震荡拖慢技术扩散 — fkasummer · 2026-07-28