AI安全指数最新结果
LuizaJarovsky · x · 2026-07-10
Future of Life Institute 发布了最新 AI Safety Index，作者认为结果“非常严峻”。
主要发现：
- Anthropic、OpenAI、Google DeepMind 仍居前列，Meta 有所改善，xAI 变差。
- 欧洲在 AI 安全监管上走在前面，但欧洲头部公司 Mistral 的安全评分垫底，形成“监管领先、企业表现落后”的反差。
- 安全不足是全球性问题：美国的 xAI、中国的 DeepSeek、欧洲的 Mistral 都拿到不及格成绩。
- 行业被指出存在向军事 AI 用途倾斜的新增风险。
- Anthropic、OpenAI、Google DeepMind、Meta 的“触线即停”承诺被削弱或取消，且常附带竞争条件。
- “存在性安全”是全行业最弱项，没有公司高于 C-。
- 公司公开安全表态与实际商业/立法行为之间存在明显落差，安全框架看起来更多是宣示而非约束。
所属事件:最新 AI 安全指数出炉：行业现状堪忧(3 条相关)→
「安全」频道最新
- 网页塞一个 Markdown 就能劫持 Claude Code,Downloads 目录成 AI 攻击新死角 — pbaylies · 2026-10-26
- 当 Agent 能自我改写,「同意」还能约束它吗? — tallmetommy · 2026-10-26
- 529 起 AI Agent 事故中 109 起无攻击者，红队测试须覆盖全流程 — anacondainc · 2026-10-26
- 密码学家复盘漏洞史：代码疑似有漏洞就该立刻修 — matthew_d_green · 2026-10-26
- 浏览器 Agent 记忆写入路径需更多提防:先过滤密钥再进长期记忆 — Classic-Being-7960 · 2026-10-26
- OpenCode 泄露事件后,开发者总结 5 条 agent 密钥防护实操 — jacobholm_dev · 2026-10-26