开权重模型逼近前沿，生物武器风险再被讨论
vanisle_kahuna · reddit · 2026-07-29
作者在问：如果开权重模型已经接近前沿能力，而下载后又能轻松去掉安全微调，还能靠什么防住生物武器级别的滥用。
帖子核心观点是：模型一旦本地化，就没有 API、没有厂商、也没有在线分类器盯着查询了。剩下的防线可能只包括：
- 训练前就被“洗掉”的生物武器相关知识
- 湿实验室侧的供应链控制，例如合成筛查、试剂追踪、DNA 订单审核
作者进一步追问，这些措施到底能不能挡住一个用开源模型辅助“绕过筛查”的人，尤其是在开权重模型能力不断逼近前沿时，威胁是否已经变得更现实。
所属事件:开闭源模型安全防御差异引发社区激烈讨论(5 条相关)→
「漫话AGI」频道最新
- Dan Shapiro：AI 真正的赢家会扩张团队，而不只是裁员 — emollick · 2026-07-30
- OpenAI 这类公司对齐的可能不是用户真实需求 — StewartalsopIII · 2026-07-30
- ACT-R、Soar、Sigma 仍是理解心智架构的好入口 — lauriewired · 2026-07-30
- 失语症患者仍能做逻辑题，挑战“语言即思维” — lauriewired · 2026-07-30
- AI 时代的开发者怪象：沉迷造工具，却不用别人的产品 — AGI Hunt · 2026-07-29
- 观点：大厂将开放持久记忆，但真正的持续学习模型将被垄断 — VraserX · 2026-07-29