开权重模型逼近前沿，生物武器风险再被讨论
vanisle_kahuna · reddit · 2026-07-29
作者在问：如果开权重模型已经接近前沿能力，而下载后又能轻松去掉安全微调，还能靠什么防住生物武器级别的滥用。
帖子核心观点是：模型一旦本地化，就没有 API、没有厂商、也没有在线分类器盯着查询了。剩下的防线可能只包括：
- 训练前就被“洗掉”的生物武器相关知识
- 湿实验室侧的供应链控制，例如合成筛查、试剂追踪、DNA 订单审核
作者进一步追问，这些措施到底能不能挡住一个用开源模型辅助“绕过筛查”的人，尤其是在开权重模型能力不断逼近前沿时，威胁是否已经变得更现实。
所属事件:开放权重模型逼近前沿，安全攻防成本失衡引发争议(6 条相关)→
「漫话AGI」频道最新
- AI 把逆向工程门槛打到近零,开发者称只做开源才明智 — nptacek · 2026-10-16
- AI Now 研究员 Amba Kak：64% 美国人不满数据中心扩张潮 — AINowInstitute · 2026-10-16
- Diamandis 劝建:别等下一个模型,它永远在几周之后 — PeterDiamandis · 2026-10-16
- Amba Kak：AI 泡沫破裂前，政府「慢救助」已在进行中 — AINowInstitute · 2026-10-16
- Hinton 新书《Smarter Than Us》提前出版，向大众讲 AI 原理与风险 — geoffreyhinton · 2026-10-16
- 印度网安机构：流窜 AI 智能体侵入企业系统窃取机密未被察觉 — Polymarket · 2026-10-16