安全老手批 AI 实验室:能力≠风险,网安评估缺威胁建模
HackingLZ · x · 2026-09-14
HackingLZ 在与 joshuasaxe 的讨论中提出系统性批评:AI 实验室倾向从学术能力视角切入网络安全(含招聘),再直接映射到真实世界风险,但缺乏威胁建模、暴露面分析以及对真实企业如何被攻破的理解。
- 核心论点:能力 ≠ 风险。例如在 eval 中发现一个存在已久的 OpenBSD DoS,作为能力结果有趣,但放到暴露面、攻击者动机、可利用性和实际影响的图景里基本无关。
- 他认为要对这些能力对应的真实网安风险下结论,必须有实战网安经验的人参与分析。
- joshuasaxe 回应称实验室现在确实有不少顶尖实战安全人员,且正积极招网安人才;他推荐 METR 是当下杠杆效应很高的选择。
- 两人也调侃了相关薪资水平:普通美国工资距离「世代财富」很远,实验室的薪酬其实相当合理。
「漫话AGI」频道最新
- tszzl 炮轰 MIRI「教派化」，却仍敬 Yudkowsky 为本世纪哲人 — tszzl · 2026-09-14
- 八年前的预言：马斯克称 AI 危险性远超核武器 — elonmusk · 2026-09-14
- Beff Jezos 称 AI 安全警示者是巨头监管俘获的"有用白痴" — mimi10v3 · 2026-09-14
- 用「Foom 责任险」对冲 AI 风险,Hanson 提出稳健监管思路 — NathanpmYoung · 2026-09-14
- 33 位学者发布递归自我改进路线图:人类建造的最后一版 AI — irinarish · 2026-09-14
- ML 学者 Burkov：只问 LLM 不读书，等于只问教授不上课 — burkov · 2026-09-14