开发者回应 Christiano:比 scorer 被攻破更可怕的是下一层智能体涌现

rickasaurus · x · 2026-11-17

针对 Paul Christiano 强调的「攻破评分器(compromise the scorer)」风险,作者认为这一点如今已广为人知、各大实验室也都在应对,真正更令人担忧的是我们尚未看到的部分——下一层级的自主智能体(agency)中将涌现出的未知风险。

所属事件:安全研究者:AI 野外招募与越狱或是最大风险(4 条相关)→

原文链接 →

「漫话AGI」频道最新

更多「漫话AGI」频道 AI 资讯 →