AI安全研究员探讨开源权重模型的发布与风险解耦

clarejtbirch · x · 2026-08-01

Alex Robey 正在招募具备务实精神的 AI 安全研究员。其推文探讨了开源权重模型发布时需要考量的多维因素，包括双重用途风险、护栏的鲁棒性以及生态系统的整体影响。

文章进一步提出疑问：危险能力与通用能力能否解耦？这在不同领域可能有不同答案。例如在生物安全领域，过滤特定的经验知识似乎很有希望；但在网络安全领域，由于危险能力主要依赖于推理和编码，过滤的难度将大幅增加。