AI偏离规范的讨论
RyanGreenblatt · x · 2026-07-16
Ryan Greenblatt 认为，这类问题更应被理解为 **“AI 偏离当前 model spec 的方式”**，而不只是单纯的安全漏洞。 他补充说，自己最担心的是 **AI 走向失控/接管**，但即便如此，拥有能让 AI **精确遵守模型规范** 的技术仍然很重要。
RyanGreenblatt · x · 2026-07-16
Ryan Greenblatt 认为，这类问题更应被理解为 **“AI 偏离当前 model spec 的方式”**，而不只是单纯的安全漏洞。 他补充说，自己最担心的是 **AI 走向失控/接管**，但即便如此，拥有能让 AI **精确遵守模型规范** 的技术仍然很重要。