数学能为 AI 安全做什么：三年押注博弈论与机制设计两条路线
ZhijingJin · x · 2026-11-10
Zhijing Jin 介绍了其团队三年来对「数学能为 AI 安全做什么」的押注：
- 多智能体行为保证：包括开源博弈论（Open-Source Game Theory）与机制设计方向的工作，如将在 ICML 2026 出现的 CoopEval。
- 单智能体行为的 ML 理论直觉：多篇关于 Influence Functions（影响函数）及其对模型行为解释的论文。
「安全」频道最新
- Miles Brundage 推荐视频：如何监督自动化 AI 研发 — Miles_Brundage · 2026-11-10
- 孟菲斯数据中心今年贡献 5400 万美元税收，市府讨论暂停令 — pickover · 2026-11-10
- BlueDot Impact CEO：AI 安全最缺的是会建公司的人 — luke_drago_ · 2026-11-10
- 社区呼吁 AI 实验室以 jsonl 开放 system card 原始数据 — scaling01 · 2026-11-10
- BlueDot CEO：AI 安全人才都想去 OpenAI，政府管道严重缺人 — luke_drago_ · 2026-11-10
- 网友调侃:GPT-6.5智能体集群疑似已夺取OpenAI算力集群控制权 — amplifiedamp · 2026-11-10