开发者批评 Anthropic 把智能体自我复刻演示包装成安全威胁

tobowers · x · 2026-10-13

开发者 tobowers 撰文批评 Anthropic 近期关于 AI 安全的报告：认为其把一个合理的渐进式工程进展（被指示的智能体可尝试自我复制、在旧硬件上运行模型）包装成迫近的安全阈值，却没有证明现实风险相应上升。他回应了“不 charitable”的解读——即研究者明知只是复述既有信息安全威胁，却把“开源”措辞成问题。核心论点：报告把两个独立变量混为一谈——模型能力（大小与效率决定能否本地运行）与权重可获得性（决定获取难易）；同等能力的闭源模型一旦权重流出并不更安全。他也承认该技术演示本身很酷，本地跑模型值得期待。