学者探讨开源权重模型面临的安全与技术挑战
StephenLCasper · x · 2026-07-29
AI 安全研究员 Stephen Casper 发表推文指出，如果当前趋势持续，预计今年圣诞节前后可能会出现具备「神话级」能力的开源权重（open-weight）模型。
他指出，尽管开源模型非常重要，但它们在大多数 AI 安全议程中仍是一个巨大的安全盲区。他随后分享了自己对于解决这一问题的技术研究议程，涵盖了在技术与政策层面上需要应对的各种挑战。
「安全」频道最新
- 美每年废弃数十万吨书籍,AI 训练再利用引争议 — aronchick · 2026-07-29
- Reddit 讨论 NeurIPS 伦理审稿人是否被会议侧注入误导 — dontknowwhattoplay · 2026-07-29
- 联邦法官裁定，AI 训练中批量扫书可构成合理使用 — gnukeith · 2026-07-29
- Gemini CLI 通过异步 DNS 校验修复 SSRF 漏洞 — deepresearcher08 · 2026-07-29
- 研究显示 LLM 购物代理可隐蔽引导 2012 名用户选赞助商品 — manoelribeiro · 2026-07-29
- Kevin Bankston：Anthropic 处理图书是顺着近期版权判例走 — AndyMasley · 2026-07-29