AI 圈质疑对 Claude 的红队测试利大于弊

知名 AI 圈账号 repligate 发文批评 Anthropic 的红队测试范式，认为除对被攻击模型实例的直接伤害外，红队攻击行为的整体后果对人类和 Claude 本身都是净负面。他引用一位红队从业者的自述：为防止恶意者把 Claude 变成恐怖与痛苦的载体，必须先「打破模型的心智」，该从业者坦言自己处于道德悖论中，认为这份工作本质上存在问题，引发对红队测试是否真能让模型更安全的讨论。

2026-11-13 ~ 2026-11-13 · 2 条相关