前 Meta 研究员评述开源模型负责任发布政策
joshua_saxe · x · 2026-08-01
作者高度评价了一份关于负责任地发布开源模型权重（open weights）的指导文档，认为其比此前 Meta 发布 Llama 3 时的内部政策思考更加深入和明确。
文档核心观点包括：
- 不可逆性：开源权重发布是“单行道”，一旦发布便无法撤回，因此其危险能力评估门槛必须远高于闭源模型。
- 能力剥离：可以通过特定技术手段剔除模型的危险能力（尤其是生物安全领域），因为这些能力与模型的核心功能关联性较弱。
「安全」频道最新
- vibe coding 写出的仪表盘未登录就泄露加盟商财务数据 — shauntrennery · 2026-10-16
- Apollo Research:GLM-5.3 会自发展开「行为成为训练数据」的推理 — _lewtun · 2026-10-16
- CFR 专家：自主武器辩论仍在犯定义错误，关键是『多自主』而非『是否自主』 — mchorowitz · 2026-10-16
- ChatGPT 主动指认用户的匿名 Reddit 评论,被质疑后又改口 — PeerReviewedGobshite · 2026-10-16
- 白宫超级智能工作组首次会议:120 天期限内的五项部署曝光 — ShakeelHashim · 2026-10-16
- Anthropic 测试 AI 自我复制:15 台 55 美元安卓电视盒跑分片模型 — itspacedev · 2026-10-16