前沿 AI 监督缺方法不只缺机构,学者征集协作方向
timrudner · x · 2026-09-13
- Tim Rudner 呼吁：前沿 AI 监督不仅需要更多评估机构，更需要更有效的方法，并发起协作征集表单，列举当前缺失的研究方向：
- 形式化验证与运行时验证（agents 与多智能体系统）、超大规模多智能体系统的可扩展监督及统计保证、机制设计、多智能体共谋、涌现合作规范、隐写/隐蔽通信检测、CoT 监控的替代方案、AI control 等。
- 面向愿意在这些方向共同研究的学者与工程师。
所属事件:学者征集前沿 AI 可扩展监督研究合作者(4 条相关)→
「安全」频道最新
- Frog and Toad 梗图讲透 HSM:密钥锁进硬件,服务器仍能让它签名 — rickasaurus · 2026-10-31
- 新论文「Heads Of Security」：定位注入攻击注意力头并改写其模式 — jonasgeiping · 2026-10-31
- 美国会民主党决议：失败 AI 公司应破产，不得救助 — alex_verem · 2026-10-31
- 亚马逊 Echo 取消本地语音存储，3月28日起全部上传云端 — alex_verem · 2026-10-31
- 美司法部首打 AI『幽灵学生』诈骗，查扣超 75 万美元 — Ars Technica AI · 2026-10-31
- 开发者称发现 LLM 内核代码 600+ 漏洞,Claude 以安全为由拒答 — pmddomingos · 2026-10-31