Joshua Saxe提出分层防御保障自主AI代理安全

安全专家Joshua Saxe在分享的主题演讲中提出，面对能够自主做出危险决策的AI代理，应采用分层防御策略：对齐、沙箱和监控各自必要但单独使用均不充分，三者结合才能满足安全要求。他还强调，这一体系的前提是以缓慢、可控的方式逐步提升AI代理的自主性。

2026-08-17 ~ 2026-08-17 · 2 条相关