密码学家 Matthew Green:少有专家真正实测过开源模型的攻击能力上限
matthew_d_green · x · 2026-11-08
密码学家 Matthew Green 发起一场关于开源模型安全风险的讨论。他指出令人意外的是,连许多专家也从未像新手那样坐下来把这些开源模型真正派去干活,因此社区其实并不清楚开源模型的能力上限在哪里——他提到包括 Daybreak 在内的评估工作,但仍质疑现有评估能否回答「capability ceiling」问题。同时他转述并部分开放对待另一种论点:漏洞利用并不重要,因为现有犯罪团伙都是已知的老面孔(或与俄罗斯相关),开源模型不会改变太多格局——他表示愿意被说服,甚至希望这是真的。
所属事件:密码学家 Green 实测 AI 挖洞引论战,悬赏 500 美元对赌(5 条相关)→
「漫话AGI」频道最新
- Faggella:AGI 治理靠制度而非圣人,Altman 只是普通人 — danfaggella · 2026-11-08
- NYT:OpenAI 进展动摇计算机科学核心假设 P vs NP — _akpiper · 2026-11-08
- AI 拉平还是拉大差距?关键在谁会提问、谁有判断力 — lagggggg_ · 2026-11-08
- AI 时代属于「业余通才」:好奇心加 AI 迎来 dilettante 黄金期 — _akpiper · 2026-11-08
- 博主预告博客:AI 时代如何保持就业竞争力 — cneuralnetwork · 2026-11-08
- 研究者用 GPT-5.2 Pro 解决 COLT 2022 开放问题并形式化证明 — kfountou · 2026-11-08