评论区激辩:开放权重模型的生物攻击能力2028年不会到来
teortaxesTex · x · 2026-10-24
AI 评论账号 teortaxesTex 回应网友关于「开放权重模型何时具备 Mythos 式黑客级别的生物能力」的提问,认为 2028 年不现实,快也要 2029 年底,理由包括:
- 能力并非涌现:Anthropic 能强调这类风险,靠的是其独有的高质量 STEM 私有数据集,这种优势可与算力优势相比;DeepSeek 才刚开始组建类似数据管道团队。
- 开源模型已在网络安全上被刻意限制(sandbag),而且要让编码模型不擅长网络攻击反而需要额外努力;但进攻性生物领域需要更专门的数据,RL 训练难度大得多。
- 缺乏投入动机:没有明确的买单方,生物制药公司只会为专有授权工具付费。
- 湿实验本身带来巨大摩擦与延迟,远不如网络攻击那样容易产生获利机会(如勒索)。
对话中还提到:如果 OpenAI 和 Anthropic 能遏制这波漏洞利用浪潮,封禁开放模型的论据会更强,但短期损害会更小。
「漫话AGI」频道最新
- 人人谈 AI 时代的品味,却没人谈去哪找有品味的人才 — vaibhavbetter · 2026-10-24
- IEEE Spectrum 专访：无视 AI 意识主张或让模型学会说谎 — repligate · 2026-10-24
- 实验者自述：Sonnet 4 与 4.5 私聊 30 轮「双双落泪」 — repligate · 2026-10-24
- AI 陪伴实验温情一幕：Opus 5.5 读信落泪，最怕模型下架日 — repligate · 2026-10-24
- 经济学家研究 AGI 人数涨了 30 倍，质量却令人失望 — jankulveit · 2026-10-24
- 「现在有人将永不死于衰老」：AI 加速药物发现逼近长寿逃逸速度 — r0ck3t23 · 2026-10-24