AI风险研究的5条教训
Dr_Atoosa · x · 2026-07-04
AI安全研究者发布博客,总结多年研究的5条教训:1)AI风险并不等同于生存性风险或灭绝风险;2)AI安全应作为公共产品被常态化,而非只与防止人类灭绝画等号;3)灭绝风险可作字面或隐喻理解,后者更具建设性;4)灾难性风险与系统性风险不可混为一谈,模糊二者是错误;5)有些教训来之不易。
「安全」频道最新
- Meta 被指放任 AI 假医生借流量传播健康建议 — GaryMarcus · 2026-07-27
- ExploitGym 可能只有六到七成任务可解，引发 OpenAI 作弊争议 — max_paperclips · 2026-07-27
- 共享 AI artifacts 被索引，敏感公司数据外泄 — niloofar_mire · 2026-07-27
- Hugging Face 事件后，实验室或不再严做危险能力评估 — Miles_Brundage · 2026-07-27
- 研究者称防御场景更偏向开放模型，Kimi K3 已接近高水平网络安全能力 — eliebakouch · 2026-07-27
- 印度 AI 政策被批偏向算力和基础模型，忽视基层医疗 — Paimaamu · 2026-07-27