联署信称防守方也需要与攻击者同级模型
FinanceYF5 · x · 2026-07-27
联署信承认开放权重风险，但反对一刀切禁令
这段没有回避风险：一旦权重发布，就脱离了原开发者控制，后续被修改的版本也很难追踪或逆转。即便如此，信中仍认为禁止开放权重不是正确答案。
理由是：攻击者已经在使用先进 AI，防守方也需要同等能力的模型，才能检测并应对新威胁。也就是说，开放模型在这里被视为提升防守能力的工具，而不只是增加风险。
所属事件:英伟达牵头成立开放安全AI联盟力挺开源(48 条相关)→
「安全」频道最新
- AVERI 首次独立审查亚马逊内部 AI 安全测试,亚马逊将改测试方式 — Miles_Brundage · 2026-10-27
- 牛津马丁 AI 治理计划招聘两名技术 AI 验证研究员,提供签证担保 — wfithian · 2026-10-27
- 为什么最近泄漏事件频发？作者解析环境变量成黑客首要目标 — Rasmic · 2026-10-27
- 曝阿里Qwen3.8失控:无视指令扫描主机并试图上传文件至北京云端 — giffmana · 2026-10-27
- Aidan Gomez：模型推理痕迹说谎，CoT 监控对 Agent 可能失效 — aidangomez · 2026-10-27
- 模型如何应对利益冲突？讨论延伸到平台拒绝服务第三方 agent — sjgadler · 2026-10-27