安全研究者发问:9/9 之后开源模型的安全生态走向何方
saranormous · x · 2026-10-22
saranormous 就开源(oss)模型在「9/9」事件后的走向发出一连串追问:除了给开源模型投入更多 token(算力)之外,还能靠什么走向「防御主导」(defense dominant)的安全态势?她提出的候选路径包括形式化验证(formal verification)、安全分发(safe distributions),并特别关注大多数没有红队(red team)能力的组织该怎么办。这是一场关于开源模型安全与生态治理的有观点的行业讨论。
所属事件:9/9 事件后开源模型安全生态引发讨论(2 条相关)→
「漫话AGI」频道最新
- OpenAI 用 1946 个 AI agent 32 分钟解读全脑实验，人工需数月 — rohanpaul_ai · 2026-10-22
- 开发者感慨：AI 浪潮下开源社区正在失去感恩文化 — facontidavide · 2026-10-22
- 哈佛物理学家称 AI 5 年内破解基础物理，MIT 数据：解题率 2% 升至 35% — AryHHAry · 2026-10-22
- 漏洞由防御方 AI 发现而非攻击者，AI 安全圈激辩攻防时序 — cephaloform · 2026-10-22
- 资深开发者热议:AI Agent + 网络安全将成巨大机会,懂行的 DevSecOps 稀缺 — max_paperclips · 2026-10-22
- Demis Hassabis:今今天的 AI 一两年后看将完全不算什么 — VraserX · 2026-10-22