研究者征集前沿AI可扩展监督课题:多智能体共谋与隐写通信
timrudner · x · 2026-09-14
Tim Rudner 指出，前沿 AI 治理不仅需要更多评估机构，更需要更有效的监督方法本身。他公开征集合作者，列出了一批未被充分研究的重要方向：
- AI 智能体与多智能体系统的形式化验证与运行时验证
- 超大规模多智能体系统的可扩展监督
- 可扩展监督的统计保证
- 前沿 AI 多智能体系统的机制设计
- 多智能体系统中的共谋问题
- 涌现的合作规范
- 多智能体系统中的隐蔽通信（隐写术）
Leroy Hammond 转发号召大家填表参与。这是 AI 安全/对齐研究中「可扩展监督」方向的公开研究议程征集。
所属事件:学者征集前沿 AI 可扩展监督研究合作者(4 条相关)→
「安全」频道最新
- LifeArchitect 10 月刊:中国拟限制 AI 技术出口,Kimi K3.1 Pro 与 Genie 4 在列 — dralandthompson · 2026-10-31
- Anthropic 官宣：11月3日起 Claude 输出将带不可见文本水印 — petesena · 2026-10-31
- LessWrong 长文：AI 实验室员工的认知状态如同「微剂量致幻」 — jankulveit · 2026-10-31
- 斯坦福教授公开实验室 AI 政策：论文正文一律不许 AI 代写 — ChrisGPotts · 2026-10-31
- 安全研究员：想跑物理隔离的 AI Agent，唯一出路是开源权重模型 — wunderwuzzi23 · 2026-10-31
- Cognitive Revolution 播客:Mistral Large 4 是西方最强开源模型吗 — The Cognitive Revolution · 2026-10-31