菲尔兹奖得主创立数学 AI 安全研究所,用密码学式证明验证 AI
The Decoder · rss · 2026-09-11
加拿大数学家、新科菲尔兹奖得主 Jacob Tsimerman 宣布创立「数学 AI 安全研究所」(MAISI)。
其思路借鉴密码学:像密码学家以数学方法证明加密不可破一样,试图用严格的数学手段证明 AI 系统的安全性,而非依赖经验性评估。这是 AI 安全研究中「形式化/数学化证明」路线的又一标志性机构。
「安全」频道最新
- 医生晒购试剂需背景审查：制造致命病毒哪有那么容易 — Ghost_Pilot_MD · 2026-09-11
- 实测 Spotify 聊天机器人:挡住2023老越狱,却肯帮写代码 — AaronBergman18 · 2026-09-11
- 作者拆解一张 99% 真实的 AI 改图:检测器几乎无法识别 — henkvaness · 2026-09-11
- DeepMind 对齐研究员联署减速公开信:AGI 竞赛或致失控灾难 — vkrakovna · 2026-09-11
- WIRED 深度:递归自我改进与 agent 集群失控令 AI 研究员恐慌 — nordicinst · 2026-09-11
- a16z 合伙人改口呼吁国有化前沿 AI 实验室,立场大逆转引关注 — S_OhEigeartaigh · 2026-09-11