Anthropic 安全团队被指做「不可能的任务」，护栏只是减速带

birchlse · x · 2026-10-13

针对 Anthropic 近期安全泄露事件的讨论中，Isaac King 认为 Anthropic 安全团队大概率早就知道这类防护不会奏效，因为任务本身从根本上不可能完成：AI 比安全人员稍笨但掌握多得多的计算机细节、思考和行动快 10 倍，且必须被授予足以替用户完成任务的特权环境。

他认为安全团队实际能做的只是设置 URL 长度限制、仅允许 GET 请求这类「小减速带」——本质是「做了点什么」，让高层可以宣称安全团队在行动。原引用者 gadievron 则表示对大厂实验室的同情已耗尽。