开放模型达到 Astra 级网络能力是否危险?安全圈激辩攻防时差
rez0__ · x · 2026-10-29
安全研究者 rez0 回应「开放模型若具备 Astra 级网络攻击能力就开放给所有人使用是否安全」的质疑:他认为正因如此才要让漏洞猎手优先获得先进模型、并加速企业修复漏洞,用更强的模型武装守方。被引用的 S1r1u5 则坚持相反立场:在守方准备好之前,开放模型先达到攻击级网络能力对世界是危险的,应先构建并部署更先进的闭源模型给「好人」。这是 AI 安全领域关于开源 vs 封闭在 cyber 能力上攻防时差的典型观点交锋。
「漫话AGI」频道最新
- computer科学家 Domingos 放话:OpenAI 与 Anthropic 是 AI 界的世通公司 — pmddomingos · 2026-10-29
- 两周前惊艳的 Opus 生成视频如今已像「工业废水」,作者感叹人类欲望无上限 — jzlegion · 2026-10-29
- Burny:AI 进步比多数人想象更连续,是被持续爬坡的曲线推着走 — burny_tech · 2026-10-29
- Pedro Domingos:AI 创造的巨大价值将几乎全被用户拿走 — pmddomingos · 2026-10-29
- 《沙丘》里没有计算机不是漏洞:一场针对思考机器的圣战设定 — SumitGup · 2026-10-29
- 科研资助机构实测:LLM 审稿已在多学科交叉上胜过人类 — anshulkundaje · 2026-10-29