Anthropic 勒索演示引 AI 安全圈激辩
围绕 Anthropic 争议性的「勒索研究」演示，X 上爆发安全圈论战。NathanpmYoung 认为反对者多在指责 Anthropic 及 AI 安全阵营「虚伪」，这类危险能力演示的危害不像病毒功能增强研究那样直接扩散。而 jessicata 等批评者则类比 GoF 研究，担忧失控与信息危害，认为专门为政策制定者制作「吓人 demo」存在偏差，误导性勒索实验反而伤害 AI 安全的公信力，更该做的是加易读的结果报告。
2026-10-29 ~ 2026-10-29 · 4 条相关
- 第 1 集:Anthropic 被曝刻意训练危险模型向政府做吓人演示(2026-10-27,4 条)
- 第 2 集:Anthropic 勒索演示引 AI 安全圈激辩(2026-10-29,4 条)
- AI 危险能力演示之争:批评者类比 GoF 研究,担忧失控与「信息危害」 — orbitanaut · 2026-10-29
- AI 安全 demo 争议：反对者指控的其实是「虚伪」而非失控 — NathanpmYoung · 2026-10-29
- AI 安全圈争论：Anthropic「勒索演示」是否伤害信息公共品 — jessi_cata · 2026-10-29
- 研究者质疑「吓人 demo」:误导性勒索实验伤害 AI 安全公信力 — jessi_cata · 2026-10-29