评论讽 Anthropic 造出“最强却未对齐”的系统

joshalbrecht · x · 2026-07-08

@joshalbrecht 指出,Anthropic 当初正是因为担忧 AI 系统失准(misaligned)而成立。颇具讽刺意味的是,他们如今造出了世界上最强大的 AI 系统,却“显然并未与使用它的人类对齐”。这番话点出了安全公司定位与其产品实际体验之间的张力。