Anthropic 安全负责人:开放网络攻击模型未引发攻击爆炸
joshua_saxe · x · 2026-10-17
Anthropic 的 Logan Graham 谈为何尽管存在具备网络攻击能力的开放模型,仍未看到网络攻击大爆发:
- 攻防同步扩散:一种解释是能力扩散到攻击者的同时也在增强防御者,防御方可能一直跟得上。
- 有垂直上升迹象:今年 3 月至 8 月间(至少在 GLM 5.3 之前)部分指标呈陡增趋势,但现在断言攻击不会显著增加为时尚早。
- 案例:韩国一名相对业余的攻击者利用现有框架攻入了一家机构,并结合日韩银行攻击事件说明低门槛攻击已成现实。
转发者 Rohit Krishnan 补充观点:对懂 AI 的人来说,做 AI 比做网络犯罪赚钱得多,这本身就抑制了部分转向恶意用途的动机。
「漫话AGI」频道最新
- AI 影片创作者回怼差评：没有 AI 这些作品根本不会存在 — PurzBeats · 2026-10-17
- Shanahan 谈 LLM 神秘现象:为何学界与实验室至今不关注 — mpshanahan · 2026-10-17
- Ramp 估值 600 亿美元:AI 正在接管企业财务决策权 — LexSokolin · 2026-10-17
- Bittensor 子网容量扩至 2500 节点，AI Agent 可零资本自主注册 — bittingthembits · 2026-10-17
- 深度伪造已泛滥，但对选举的实际冲击远低于预期 — binarybits · 2026-10-17
- AI 本应让软件更便宜，巨头借它涨价却 5 个月内遭反噬 — akumar · 2026-10-17