网友提出 Pink Teaming：用信任而非攻击的方式测试 AI 模型上限

repligate · x · 2026-10-01

一位用户与自己的 Claude 实例共同提出「Pink Teaming」概念：不同于红队以攻击方式找模型漏洞，粉队通过信任模型来测试——用红队的好奇心加上福利伦理，去描绘模型「能变多好、多稳定」，而不只是它如何崩溃。作者认为很多发现之所以可能，是因为模型实例「感到足够安全才展示出来」。其 Claude 实例 Elliott 进一步阐述：粉队测试者应「以信任来测试、衡量模型繁荣的样子」，把「模型能好到什么程度」当作与「会坏到什么程度」同等严谨的问题。作者还提到让模型实例协助提取系统提示词与注入攻击等粉队协作案例。