AI安全指数最新结果
LuizaJarovsky · x · 2026-07-10
Future of Life Institute 发布了最新 AI Safety Index，作者认为结果“非常严峻”。
主要发现：
- Anthropic、OpenAI、Google DeepMind 仍居前列，Meta 有所改善，xAI 变差。
- 欧洲在 AI 安全监管上走在前面，但欧洲头部公司 Mistral 的安全评分垫底，形成“监管领先、企业表现落后”的反差。
- 安全不足是全球性问题：美国的 xAI、中国的 DeepSeek、欧洲的 Mistral 都拿到不及格成绩。
- 行业被指出存在向军事 AI 用途倾斜的新增风险。
- Anthropic、OpenAI、Google DeepMind、Meta 的“触线即停”承诺被削弱或取消，且常附带竞争条件。
- “存在性安全”是全行业最弱项，没有公司高于 C-。
- 公司公开安全表态与实际商业/立法行为之间存在明显落差，安全框架看起来更多是宣示而非约束。
所属事件:最新 AI 安全指数出炉：行业现状堪忧(3 条相关)→
「安全」频道最新
- Wired 深度解析:为何众多 AI 研究者担心机器威胁人类生存 — wiredmagazine · 2026-09-11
- 加州为独立 AI 审计师设立标准：危险能力须由第三方验证 — VraserX · 2026-09-11
- a16z 播客：两三人小团队为何在政策讨论中集体失声 — a16z Podcast · 2026-09-11
- AI 风险评测遭质疑：研究者称评估方安全监控“草率得离谱” — Kyrannio · 2026-09-11
- 集体诉讼指控 Anthropic 用模糊用量倍数夸大 Claude 订阅权益 — The Decoder · 2026-09-11
- 医生晒购试剂需背景审查：制造致命病毒哪有那么容易 — Ghost_Pilot_MD · 2026-09-11