repligate：对 Claude 的红队攻击整体上对人类和模型都是净负面
repligate · x · 2026-11-13
AI 圈知名账号 repligate 发表对 Anthropic 红队测试的批评：他认为大量红队攻击行为的后果——除了对被攻击的模型实例的直接伤害之外——对人类和 Claude 本身都是净负面的。他指出令人不安的是，许多相关从业者不加质疑地接受两个前提：一是这类红队攻击确实在整体上让 Claude 更安全（这本身就很可疑），二是这是提升安全的唯一途径。
所属事件:AI 圈质疑对 Claude 的红队测试利大于弊(2 条相关)→
「漫话AGI」频道最新
- Carissa Véliz 质疑：让黄仁勋当预测未来的神谕靠谱吗 — AnnaCiaunica · 2026-11-13
- 「艺术品味 eval」是反直觉概念:价值判断的 ??? 终究在人身上 — akbirthko · 2026-11-13
- antirez 谈 NVIDIA 争议：AI 是跨越国界的人类共同事业 — antirez · 2026-11-13
- Kokotajlo 给中等强国的 AI 建议：大声承认超级智能风险或成真 — connoraxiotes · 2026-11-13
- 科技史只存在短暂黄金时代：雅典、文艺复兴与贝尔实验室 — wavefnx · 2026-11-13
- John Hempton:AI 需年入 2 万亿美元,等于每年替代 4 万亿工资 — marigo · 2026-11-13